LLM 应用语义规范变更历史
LLM 应用语义规范正在不断演进当中，探针版本在新版本发布时，各种 LLM 插件会逐渐向最新版本的语义规范靠拢。本文档用于记录在新版本探针发布时，语义规范发生的变化。
控制 LLM 应用对话历史采集行为
默认情况下，探针会在 LLM 相关调用（如 LLM 调用、agent 调用）中记录对话历史，对话历史内容格式遵循 OpenTelemetry 规范。本文介绍如何配置 LLM 应用的对话历史采集行为。
BISHENG下一代企业AI应用的“全能型“LLM软件
🔥🔥 AllData大数据产品是可定义数据中台，以数据平台为底座，以数据中台为桥梁，以机器学习平台为中层框架，以大模型应用为上游产品，提供全链路数字化解决方案。 ✨杭州奥零数据科技官网：http://www.aolingdata.com✨AllData开源项目：htt...
LLM应用概览
为LLM（Large Language Model）应用安装Python探针后，ARMS即可开始监控LLM应用，您可以在概览页面了解LLM应用的大模型调用次数、Token使用次数、Trace数、会话数等信息。
大模型规模化落地，企业AIGC应用支持多个大语言模型（LLM)切换及GPU规划化管理（PAI-EAS + ADB-PG)
背景随着年初的ChatGPT引爆大语言模型市场， LLM的集中爆发，大部分企业已经完成了AIGC产品的调研，并进入第二阶段， 即寻求大规模落地的AIGC产品解决方案。当前企业在AIGC场景落地中，以下问题尤为突出： 多模型选择： 随着大模型的百花齐放， 不同的模型在各自的领域有不同的优势，如何能够快速选择模型，试用模型并将其产品化，更敏捷的模型使用成为了企业最主要的诉求； 规划化管理GPU： G....
本页面内关键词为智能算法引擎基于机器学习所生成，如有任何问题，可在页面下方点击"联系我们"与我们沟通。