01部署准备
完成账号开通申请以及账号充值、资源授权等操作。
02规划网络和资源
规划高可用等要求,规划访问需要的网络和资源。
03部署操作
部署AnalyticDB数据仓库、ECS云服务器以及下载、配置大模型等相关资源。
04搭建专属知识库
配置ECS环境,下载部署大模型以及与向量数据库进行结合。
05结果验证
验证和对比仅使用大模型和采用大模型结合向量数据库在专属知识库上面的问答区别。
用户通过向Chatbot以对话问答的方式提出问题或需求;大模型对用户输入进行语义理解,提取关键信息,生成查询向量;向量数据库根据查询向量在企业知识库中进行高效检索,返回相关知识。
部署大模型和向量数据库往往需要涉及到大量的相关软件依赖和一系列的前置操作,需要面临部署依赖多、复杂度高、耗时长等问题。
企业内部知识库更新频率越来越高,要求向量数据库能够实时感知数据的变化,要求结构化数据和非结构化实时的写入、更新和查询,并且支持实时构建向量索引等。
在与大模型场景相关的面向知识检索服务中,往往除了向量数据的相似度检索,也需要融合并且支持通用的数据检索、分析等服务,而不仅仅只使用专用的向量数据库能力。