本文主要演示了如何使用 Milvus 和 LangChain 快速构建一个基于阿里云百炼大模型的 LLM 问答系统。前期准备服务开通本文采用的Embedding模型为阿里云百炼平台的通用文本向量-v2，采用的LLM为通义千问-Max-Latest。本文相关的API-KEY可在百炼平台进行创建。更多Embedding和LLM模型的支持可以参照...

文章 2024-12-16 来自：开发者社区

通过阿里云Milvus和LangChain快速构建LLM问答系统

阿里云向量检索服务 Milvus 版是一款云上全托管服务，确保了与开源Milvus的100%兼容性，并支持无缝迁移。在开源版本的基础上增强了可扩展性，能提供大规模 AI 向量数据的相似性检索服务。相比于自建，目前阿里云Milvus具备易用性、可用性、安全性、低成本与生态优势。凭借其开箱即用的特性、灵活的扩展能力和全链路监控告警，阿里云Milvus 云服务成为多样化 AI 应用场景的理想选择，包括....

文章 2024-10-22 来自：开发者社区

前端大模型入门（一）：用 js+langchain 构建基于 LLM 的应用

利用大模型开发应用时，我们有时候要第一时间给出用户相应，也就是使用流式调用的方式。这时候前端处理响应，就需要特殊的处理：利用处理可读流的方式从响应中读取数据。随着大语言模型（LLM）在各种应用中的广泛使用，如何高效地从服务器获取模型生成的长文本响应成为一个重要问题。传统的HTTP请求模式通常等待...

文章 2024-05-10 来自：开发者社区

通过阿里云 Milvus 和 LangChain 快速构建 LLM 问答系统

本文介绍如何通过整合阿里云Milvus、阿里云DashScope Embedding模型与阿里云PAI（EAS）模型服务，构建一个由LLM（大型语言模型）驱动的问题解答应用，并着重演示了如何搭建基于这些技术的RAG对话系统。免费试用前提条件已创建Milvus实例。具体操作，请参见快速创建Milvus实例。已开通PAI（EA...