LLM 应用语义规范变更历史
LLM 应用语义规范正在不断演进当中，探针版本在新版本发布时，各种 LLM 插件会逐渐向最新版本的语义规范靠拢。本文档用于记录在新版本探针发布时，语义规范发生的变化。
控制 LLM 应用对话历史采集行为
默认情况下，探针会在 LLM 相关调用（如 LLM 调用、agent 调用）中记录对话历史，对话历史内容格式遵循 OpenTelemetry 规范。本文介绍如何配置 LLM 应用的对话历史采集行为。
BISHENG下一代企业AI应用的“全能型“LLM软件
🔥🔥 AllData大数据产品是可定义数据中台，以数据平台为底座，以数据中台为桥梁，以机器学习平台为中层框架，以大模型应用为上游产品，提供全链路数字化解决方案。 ✨杭州奥零数据科技官网：http://www.aolingdata.com✨AllData开源项目：htt...
LLM应用概览
为LLM（Large Language Model）应用安装Python探针后，ARMS即可开始监控LLM应用，您可以在概览页面了解LLM应用的大模型调用次数、Token使用次数、Trace数、会话数等信息。
基于英特尔平台加速 AI 应用及 LLM 推理性能介绍|龙蜥大讲堂第115期
基于英特尔平台加速 AI 应用及 LLM 推理性能介绍|龙蜥大讲堂第115期 内容介绍 1. 第五代英特尔至强处理器 2. LLM 推理加速框架 xFast Transformer 及其优化策略 3. 性能数据及 Demo 展示 ...
Python 应用可观测重磅上线：解决 LLM 应用落地的“最后一公里”问题
1. 背景 随着 LLM（大语言模型）技术的不断成熟和应用场景的不断拓展，越来越多的企业开始将 LLM 技术纳入自己的产品和服务中。LLM 在自然语言处理方面表现出令人印象深刻的能力。然而，其内部机制仍然不明确，这种缺乏透明度的做法给下游应用带来了不必要的风险，这也导致了 LLM 应用落地难等问题。因此，理解和解释这些模型对于阐明其行为、局限性和社会影响至关重要。LLM 可观测...
前端大模型应用笔记（一）：两个指令反过来说大模型就理解不了啦？或许该让第三者插足啦 -通过引入中间LLM预处理用户输入以提高多任务处理能力
今天就遇到有点儿dt的问题，利用大模型顺利通了自定义的工具调用（并没有用到tools功能，而是通过prompt强制输出），单个单个的没问题哈，但是多个一起就出现问题了 我说“关闭电脑PC1, 打开第2台电脑” 它看不懂了，但我反过来说“打开第2台电脑，关闭电脑PC1”，它倒是很机智，顺利找到了对应的主机id并调用了正确的工具，反正我是一脸懵逼，这到底是个什么鬼？毕竟是个黑盒，...
通义听悟应用是如何利用大规模语言模型（LLM）进行基础算法探索和应用落地的？
通义听悟应用是如何利用大规模语言模型（LLM）进行基础算法探索和应用落地的？
本页面内关键词为智能算法引擎基于机器学习所生成，如有任何问题，可在页面下方点击"联系我们"与我们沟通。