LLM 应用语义规范变更历史
LLM 应用语义规范正在不断演进当中，探针版本在新版本发布时，各种 LLM 插件会逐渐向最新版本的语义规范靠拢。本文档用于记录在新版本探针发布时，语义规范发生的变化。
控制 LLM 应用对话历史采集行为
默认情况下，探针会在 LLM 相关调用（如 LLM 调用、agent 调用）中记录对话历史，对话历史内容格式遵循 OpenTelemetry 规范。本文介绍如何配置 LLM 应用的对话历史采集行为。
LLM应用概览
为LLM（Large Language Model）应用安装Python探针后，ARMS即可开始监控LLM应用，您可以在概览页面了解LLM应用的大模型调用次数、Token使用次数、Trace数、会话数等信息。
通义听悟应用是如何利用大规模语言模型（LLM）进行基础算法探索和应用落地的？
通义听悟应用是如何利用大规模语言模型（LLM）进行基础算法探索和应用落地的？
【大模型】在实际应用中大规模部署 LLM 会带来哪些挑战？
大规模部署LLM的挑战与解决方案 数据隐私与安全挑战 大规模部署LLM时，面临的首要挑战之一是数据隐私与安全问题。LLM的训练和部署通常需要大量的文本数据，其中可能包含用户的敏感信息。确保用户数据的隐私和安全，防止数据泄露和滥用，是一个重要的挑战。解决这一挑战的方法包括采用数据加密技术、安全多方计算技术等保护用户数据的隐私，并建立严格的数据访问和使用规范。 模型规模与计算资源挑战 LLM...
本页面内关键词为智能算法引擎基于机器学习所生成，如有任何问题，可在页面下方点击"联系我们"与我们沟通。