使用ACS GPU算力构建LLM推理服务
容器计算服务 ACS（Container Compute Service）提供了高效、灵活的容器管理和编排能力，为大规模模型的部署与推理提供了强有力的支持。本文介绍如何在ACS上高效利用大模型推理镜像，实现模型服务的快速部署与规模化应用。
使用DeepGPU-LLM镜像构建模型的推理环境
在GPU实例上配置DeepGPU-LLM容器镜像后，可以帮助您快速构建大语言模型（例如Llama模型、ChatGLM模型、百川Baichuan模型或通义千问Qwen模型）的推理环境，主要应用在智能对话系统、文本分析、编程辅助等自然语言处理业务场景，您无需深入了解底层的硬件优化细节，镜像拉取完成后，无需额外配置即可开箱即用。本文为您介绍如何在GPU实例上使用DeepGPU-LLM容器镜像构建大语言模...
使用ASM回退功能构建高可用的LLM服务
在LLM场景中，业务应用需要对接内部或外部的基础模型服务。服务网格 ASM（Service Mesh）支持同时对接多个基础模型服务，并且可以实现当一个模型服务不可用时，自动回退到另一个模型服务，助力企业实现LLM应用的高可用。本文介绍如何在对接LLM服务时使用流量回退功能。
通过Milvus和LangChain快速构建LLM问答系统
本文介绍如何通过整合阿里云Milvus、阿里云DashScope Embedding模型与阿里云PAI（EAS）模型服务，构建一个由LLM（大型语言模型）驱动的问题解答应用，并着重演示了如何搭建基于这些技术的RAG对话系统。
如何通过云上数据库一站式构建RAG系统
随着AIGC技术日新月异的发展，LLM应用也在持续迭代，检索增强生成（RAG）系统已经成为企业知识库、智能客服、电商导购等场景的核心环节。阿里云OpenSearch-LLM智能问答版联合数据集成Data Integration产品，帮助企业和开发者实现分钟级构建专属RAG系统。本教程介绍如何通过云上数据库一站式构建RAG系统。
基于PolarDB PostgreSQL版和LLM构建企业专属Chatbot
随着ChatGPT的问世，人们开始认识到大语言模型（LLM，Large language model）和生成式人工智能在多个领域的潜力，如文稿撰写、图像生成、代码优化和信息搜索等。LLM已成为个人和企业的得力助手，并朝着超级应用的方向发展，引领着新的生态系统。本文介绍如何基于PolarDB PostgreSQL版向量数据库和LLM构建企业专属Chatbot。背景信息越来越多的企业和个人希望能够利....
30分钟，一键拉起基于LLM + AnalyticDB PostgreSQL构建的企业专属Chatbot（支持ChatGLM2-6B)
30分钟，一键开启基于LLM + AnalyticDB for PostgreSQL的企业专属ChatbotChatGPT的火爆带动AIGC行业近期非常火热，客户对于智能客服，构建企业知识库用于智能问答，写作助手等相关需求非常旺盛；本文介绍了如何企业如何通过一键拉起，快速部署企业专属的Chatbot应用并快速完成业务验证；本文介绍了如何快速完成从0到1部署，在30分钟内可以快速构建企业专属聊天机....
基于LLM+Tair构建具备私域知识的专属Chatbot
Tair+大模型OpenAI / ChatGPT之前出过一个故障（因为redis-py的问题，导致用户可以看到其他用户的聊天信息），使得大家知道了ChatGPT也深度使用了Redis。Tair是阿里云的企业版内存数据库，100%兼容Redis生态，可平替Redis，并且提供了灵活、易用的向量检索能力，支持embedding向量的实时读写，并且具备高性能、低门槛等优势。通过向量检索，可以从用户的会....
30分钟，一键拉起基于LLM + AnalyticDB PostgreSQL构建的企业专属Chatbot
30分钟，一键开启基于LLM + AnalyticDB for PostgreSQL的企业专属ChatbotChatGPT的火爆带动AIGC行业近期非常火热，客户对于智能客服，构建企业知识库用于智能问答，写作助手等相关需求非常旺盛；本文介绍了如何企业如何通过一键拉起，快速部署企业专属的Chatbot应用并快速完成业务验证；本文介绍了如何快速完成从0到1部署，在30分钟内可以快速构建企业专属聊天机....
AnalyticDB(ADB)+LLM，构建AIGC时代下企业专属Chatbot
1. 为什么Chatbot需要大语言模型+向量数据库？ 这个春天，最让人震感的科技产品莫过于ChatGPT的横空出世，通过大语言模型（LLM）让人们看到了生成式AI能实现到和人类语言高度相仿的语言表达能力，AI不再遥不可及而已经可以走进人类的工作和生活，这使得沉寂一段时间的AI领域重新焕发了能量，无数的从业者正趋之若鹜地投身于下一个改变时代的机会；据不完全统计，在短短的4个月时间内，美国...
本页面内关键词为智能算法引擎基于机器学习所生成，如有任何问题，可在页面下方点击"联系我们"与我们沟通。