LLM 应用语义规范变更历史
LLM 应用语义规范正在不断演进当中，探针版本在新版本发布时，各种 LLM 插件会逐渐向最新版本的语义规范靠拢。本文档用于记录在新版本探针发布时，语义规范发生的变化。
控制 LLM 应用对话历史采集行为
默认情况下，探针会在 LLM 相关调用（如 LLM 调用、agent 调用）中记录对话历史，对话历史内容格式遵循 OpenTelemetry 规范。本文介绍如何配置 LLM 应用的对话历史采集行为。
LLM应用概览
为LLM（Large Language Model）应用安装Python探针后，ARMS即可开始监控LLM应用，您可以在概览页面了解LLM应用的大模型调用次数、Token使用次数、Trace数、会话数等信息。
企业内训｜LLM大模型技术在金融领域的应用及实践-某商业银行分行IT团队
本企业培训是TsingtaoAI技术团队专们为某商业银行分行IT团队开发的LLM大模型技术课程。课程深入分析大模型在金融行业中的发展趋势、底层技术及应用场景，重点提升学员在大模型应用中的实际操作能力与业务场景适应力。通过对全球商用 LLM 产品及国内外技术生态的深度对比，学员将了解大模型在不同企业中的发展路径，掌握如 GPT 系列、Claude 系列、文心一言等大模型的前沿技术。针对金融行业的业....
Xinference实战指南：全面解析LLM大模型部署流程，携手Dify打造高效AI应用实践案例，加速AI项目落地进程
Xinference实战指南：全面解析LLM大模型部署流程，携手Dify打造高效AI应用实践案例，加速AI项目落地进程 Xorbits Inference (Xinference) 是一个开源平台，用于简化各种 AI 模型的运行和集成。借助 Xinference，您可以使用任何开源 LLM、嵌入模型和多模态模型在云端或本地环境中运行推理，并创建强大的 AI 应用。通过 Xorbits Infe.....
LLM 应用可观测性：从 Trace 视角展开的探索与实践之旅
1. 背景介绍 随着生成式 AI 概念的火爆，以 ChatGPT 为代表，市场上涌现了一系列商用或者开源的大模型，同时基于大语言模型以及 AI 生态技术栈构建的应用以及业务场景也越来越多，大规模的模型训练以及模型推理场景也催生了 MLOps、LLMOps 等相关的岗位需求。如何监控并保障大模型应用上线的性能以及用户体验？如何支持复杂拓扑场景下 LLM 应用领域的链路可视化分析以...
【LangChain系列】第九篇：LLM 应用评估简介及实践
[toc] 随着语言模型（LLMs）的不断进步，它们的应用变得越来越复杂和精密。随着这种复杂性的增加，评估这些基于LLM的应用程序的性能和准确性也变得更具挑战性。在这篇博客文章中，我们将深入探讨LLM应用评估的世界，探讨可以帮助您评估和改进模型性能的框架和工具。 一、创建QA应用程序 import os fro...
本页面内关键词为智能算法引擎基于机器学习所生成，如有任何问题，可在页面下方点击"联系我们"与我们沟通。