使用ACS GPU算力构建LLM推理服务
容器计算服务 ACS（Container Compute Service）提供了高效、灵活的容器管理和编排能力，为大规模模型的部署与推理提供了强有力的支持。本文介绍如何在ACS上高效利用大模型推理镜像，实现模型服务的快速部署与规模化应用。
使用DeepGPU-LLM镜像构建模型的推理环境
在GPU实例上配置DeepGPU-LLM容器镜像后，可以帮助您快速构建大语言模型（例如Llama模型、ChatGLM模型、百川Baichuan模型或通义千问Qwen模型）的推理环境，主要应用在智能对话系统、文本分析、编程辅助等自然语言处理业务场景，您无需深入了解底层的硬件优化细节，镜像拉取完成后，无需额外配置即可开箱即用。本文为您介绍如何在GPU实例上使用DeepGPU-LLM容器镜像构建大语言模...
使用ASM回退功能构建高可用的LLM服务
在LLM场景中，业务应用需要对接内部或外部的基础模型服务。服务网格 ASM（Service Mesh）支持同时对接多个基础模型服务，并且可以实现当一个模型服务不可用时，自动回退到另一个模型服务，助力企业实现LLM应用的高可用。本文介绍如何在对接LLM服务时使用流量回退功能。
通过Milvus和LangChain快速构建LLM问答系统
本文介绍如何通过整合阿里云Milvus、阿里云DashScope Embedding模型与阿里云PAI（EAS）模型服务，构建一个由LLM（大型语言模型）驱动的问题解答应用，并着重演示了如何搭建基于这些技术的RAG对话系统。
如何通过云上数据库一站式构建RAG系统
随着AIGC技术日新月异的发展，LLM应用也在持续迭代，检索增强生成（RAG）系统已经成为企业知识库、智能客服、电商导购等场景的核心环节。阿里云OpenSearch-LLM智能问答版联合数据集成Data Integration产品，帮助企业和开发者实现分钟级构建专属RAG系统。本教程介绍如何通过云上数据库一站式构建RAG系统。
使用CLIP和LLM构建多模态RAG系统
什么是RAG 在人工智能领域，检索增强生成(retrieve - augmented Generation, RAG)作为一种变革性技术改进了大型语言模型(Large Language Models)的能力。从本质上讲，RAG通过允许模型从外部源动态检索实时信息来增强AI响应的特异性。 该体系结构将生成能力与动态检索过程无缝结合，使人工智能能够适应不同领域中不断变化的信息。与微调和再训练不同...
LLM系列 | 11: 基于ChatGPT构建智能客服系统(query分类&安全检查&防注入)
简介 竹斋眠听雨，梦里长青苔。门寂山相对，身闲鸟不猜。小伙伴们好，我是微信公众号：《小窗幽记机器学习》的小编卖热干面的小女孩。紧接前面几篇ChatGPT Prompt工程系列文章： 04:ChatGPT Prompt编写指南05:如何优化ChatGPT Prompt？06:ChatGPT Prompt实践...
本页面内关键词为智能算法引擎基于机器学习所生成，如有任何问题，可在页面下方点击"联系我们"与我们沟通。