LLM 应用语义规范变更历史
LLM 应用语义规范正在不断演进当中,探针版本在新版本发布时,各种 LLM 插件会逐渐向最新版本的语义规范靠拢。本文档用于记录在新版本探针发布时,语义规范发生的变化。
控制 LLM 应用对话历史采集行为
默认情况下,探针会在 LLM 相关调用(如 LLM 调用、agent 调用)中记录对话历史,对话历史内容格式遵循 OpenTelemetry 规范。本文介绍如何配置 LLM 应用的对话历史采集行为。
SLS Copilot 实践:基于 SLS 灵活构建 LLM 应用的数据基础设施
作者:顾汉杰(执少) "纸上得来终觉浅,绝知此事要躬行。" —— 陆游 在 LLM 应用快速发展的今天,我们往往专注于模型调优和功能实现,却忽略了一个关键问题: 如何有效地监控、诊断和优化线上运行的 LLM 应用? 本文将分享我们在构建 SLS SQL Copilot 过程中的工程实践,展示如何基于阿里云 SLS 打造一套完...
36.7K star!拖拽构建AI流程,这个开源LLM应用框架绝了!
嗨,大家好,我是小华同学,关注我们获得“最新、最全、最优质”开源项目和高效工作学习方法 只需拖拽节点,5分钟搭建专属AI工作流! Flowise 是一款革命性的低代码LLM应用构建工具,开发者通过可视化拖拽界面,就能快速搭建基于大语言模型的智能工作流。该项目在...
LLM应用概览
为LLM(Large Language Model)应用安装Python探针后,ARMS即可开始监控LLM应用,您可以在概览页面了解LLM应用的大模型调用次数、Token使用次数、Trace数、会话数等信息。
前端大模型入门(一):用 js+langchain 构建基于 LLM 的应用
利用大模型开发应用时,我们有时候要第一时间给出用户相应,也就是使用流式调用的方式。这时候前端处理响应,就需要特殊的处理:利用处理可读流的方式从响应中读取数据。 随着大语言模型(LLM)在各种应用中的广泛使用,如何高效地从服务器获取模型生成的长文本响应成为一个重要问题。传统的HTTP请求模式通常等待...
基于阿里云函数计算(FC)x 云原生 API 网关构建生产级别 LLM Chat 应用方案最佳实践
LLM Chat 应用大家应该都不陌生,这类应用也逐渐称为了我们日常的得力助手,如果只是个人使用,那么目前市面上有很多方案可以快速的构建出一个LLM Chat应用,但是如果要用在企业生产级别的项目中,那对整体部署架构,使用组件的性能,健壮性,扩展性要求还是比较高的。本文带大家了解一下如何使用阿里云Serverless计算产品函数计算构建生产级别的LLM Chat应用。 该最佳实...
本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。