使用ACS GPU算力构建LLM推理服务
容器计算服务 ACS（Container Compute Service）提供了高效、灵活的容器管理和编排能力，为大规模模型的部署与推理提供了强有力的支持。本文介绍如何在ACS上高效利用大模型推理镜像，实现模型服务的快速部署与规模化应用。
使用DeepGPU-LLM镜像构建模型的推理环境
在GPU实例上配置DeepGPU-LLM容器镜像后，可以帮助您快速构建大语言模型（例如Llama模型、ChatGLM模型、百川Baichuan模型或通义千问Qwen模型）的推理环境，主要应用在智能对话系统、文本分析、编程辅助等自然语言处理业务场景，您无需深入了解底层的硬件优化细节，镜像拉取完成后，无需额外配置即可开箱即用。本文为您介绍如何在GPU实例上使用DeepGPU-LLM容器镜像构建大语言模...
使用ASM回退功能构建高可用的LLM服务
在LLM场景中，业务应用需要对接内部或外部的基础模型服务。服务网格 ASM（Service Mesh）支持同时对接多个基础模型服务，并且可以实现当一个模型服务不可用时，自动回退到另一个模型服务，助力企业实现LLM应用的高可用。本文介绍如何在对接LLM服务时使用流量回退功能。
通过Milvus和LangChain快速构建LLM问答系统
本文介绍如何通过整合阿里云Milvus、阿里云DashScope Embedding模型与阿里云PAI（EAS）模型服务，构建一个由LLM（大型语言模型）驱动的问题解答应用，并着重演示了如何搭建基于这些技术的RAG对话系统。
如何通过云上数据库一站式构建RAG系统
随着AIGC技术日新月异的发展，LLM应用也在持续迭代，检索增强生成（RAG）系统已经成为企业知识库、智能客服、电商导购等场景的核心环节。阿里云OpenSearch-LLM智能问答版联合数据集成Data Integration产品，帮助企业和开发者实现分钟级构建专属RAG系统。本教程介绍如何通过云上数据库一站式构建RAG系统。
【LLM】基于pvVevtor和LangChain构建RAG（检索增强）服务
[toc] 前言 检索增强生成 （RAG） 是一种技术，它通过使用来自外部来源的事实来增强生成式 AI 模型的知识库，从而提高其准确性和可靠性。RAG 使大型语言模型 （LLM） 能够对主题做出准确、自信和出色的响应。 在本文中，我们将演示如何在应用程序中使用 RAG 技术。为此，我们将使用 Langchain 为 LLM 框架创建一个 Flutter 应用程序，并使用 pgVecto...
阿里云OpenSearch重磅推出LLM问答式搜索产品，助力企业高效构建对话式搜索服务
OpenSearch LLM智能问答版立即开通体验，欢迎企业、开发者进群交流，点击申请进群。1. 企业专属问答搜索1.1. 世界知识 vs 企业专属知识ChatGPT、通义千问正在引领搜索技术变革，其表现出的“什么都懂，什么都能聊”关键是依赖于底座大语言模型（Large Language Model, LLM）中压缩的世界知识。但无论是多强大的LLM，能压缩的知识量仍然是有限的。下图中的问题是关....
本页面内关键词为智能算法引擎基于机器学习所生成，如有任何问题，可在页面下方点击"联系我们"与我们沟通。