LLM 应用语义规范变更历史
LLM 应用语义规范正在不断演进当中,探针版本在新版本发布时,各种 LLM 插件会逐渐向最新版本的语义规范靠拢。本文档用于记录在新版本探针发布时,语义规范发生的变化。
控制 LLM 应用对话历史采集行为
默认情况下,探针会在 LLM 相关调用(如 LLM 调用、agent 调用)中记录对话历史,对话历史内容格式遵循 OpenTelemetry 规范。本文介绍如何配置 LLM 应用的对话历史采集行为。
CLIMB自举框架:基于语义聚类的迭代数据混合优化及其在LLM预训练中的应用
尽管优化预训练数据混合对大型语言模型(LLM)的性能有显著影响,但确定最优数据配比仍然是一个亟待解决的挑战。为应对这一问题,英伟达提出了一种名为CLIMB(CLustering-based Iterative data Mixture Bootstrapping)的自动化框架,该框架能够在预训练环境中系统地发现、评估并优化数据混合策略。CLIMB通过在语义空间中嵌入并聚类大规模数据集,并结合小型....
LLM应用概览
为LLM(Large Language Model)应用安装Python探针后,ARMS即可开始监控LLM应用,您可以在概览页面了解LLM应用的大模型调用次数、Token使用次数、Trace数、会话数等信息。
AI Agent框架(LLM Agent):LLM驱动的智能体如何引领行业变革,应用探索与未来展望
AI Agent框架(LLM Agent):LLM驱动的智能体如何引领行业变革,应用探索与未来展望 1. AI Agent(LLM Agent)介绍 1.1. 术语 Agent:“代理” 通常是指有意行动的表现。在哲学领域,Agent 可以是人、动物,甚至是具有自主性的概念或实体。 AI Agent:AI Agent(人工智能代理)是一种能够感知环境、进行决策和执行动作的智能实体...
本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。