企业内训｜AI/大模型/智能体的测评/评估技术-某电信运营商互联网研发中心
本课程是TsingtaoAI专为某电信运营商的互联网研发中心的AI算法工程师设计，已于近日在广州对客户团队完成交付。课程聚焦AI算法工程师在AI、大模型和智能体的测评/评估技术中的关键能力建设，深入探讨如何基于当前先进的AI、大模型与智能体技术，构建符合实际场景需求的科学测评体系。课程内容涵盖大模型及智能体的基础理论、测评集构建、评分标准、自动化与人工测评方法，以及特定垂直场景下的测评实战等方面....
AI智能体研发之路-模型篇（二）：DeepSeek-V2-Chat 训练与推理实战
一、引言 5月6日私募基金幻方发布DeepSeek-V2，千亿级模型，每百万Tokens仅需1元-2元。5月15日，字节发布白菜价的豆包大模型，5月21日阿里、百度相机大幅下调甚至免费开放自家商用模型接口，大模型价格战正式打响。而被誉为大模型价格屠夫的“DeepSeek-V2”到底是怎么个事儿，是否可以进行训练和推理，今天我们来展开讲一讲。 二、模型简介 2.1 Deep...
AI智能体研发之路-模型篇（一）：大模型训练框架LLaMA-Factory在国内网络环境下的安装、部署及使用
一、引言 贫富差距的产生是信息差，技术贫富差距的产生亦如此。如果可以自我发现或者在别人的指导下发现优秀的开源项目，学习或工作效率真的可以事半功倍。 今天力荐的项目是LLaMA-Factory，我在去年8月份就开始使用这个项目进行模型部署和微调训练（fine tune），当时各家大模型仅限于推理测试，OpenAI还没有对外提供微调服务，加上这个项目部署丝滑（更新及时，不会出现环境依...
AI智能体研发之路-工程篇（五）：大模型推理服务框架LocalAI一键部署
一、引言 今天开始写大语言模型推理服务框架的第三篇——LocalAI，前两篇见 大语言模型推理服务框架—Ollama 大语言模型推理服务框架—Xinference 这个框架相比于前两篇，如果服务器没办法科学上网，学习和使用难度都要上一个台阶，花了几个小时踩了几个坑，将排坑后的内容分享给大家，如果大家觉得有用的话，希望获得您的关注、收藏、点赞及评论。 二、排...
AI智能体研发之路-工程篇（二）：Dify智能体开发平台一键部署
1.引言 先分享dify项目的github：https://github.com/langgenius/dify “项目由前腾讯云DevOps团队成员创建。我们发现基于OpenAI的API开发GPT应用程序有些麻烦。凭借我们多年在开发者效率工具方面的研发经验，我们希望能够让更多的人使用自然语言开发有趣的应用程序。” dify由10+全职团队和100+社区贡献者共同维护，迭...
AI智能体研发之路-工程篇（四）：大模型推理服务框架Xinference一键部署
一.引言 上一篇大语言模型推理服务框架—Ollama介绍了Ollama，Ollama以出色的设计一行命令完成推理框架部署，一行命令完成大模型部署，模型的下载不依赖梯子，速度非常快，大幅提升模型部署效率，同时，当有多卡GPU时，Ollama可以自动将模型分片到各个GPU上，博主使用V100显卡（单卡32G显存）部署llama3 70B（预计需要40G显存），自动完成了显存分配。 今...
AI智能体研发之路-模型篇（五）：pytorch vs tensorflow框架DNN网络结构源码级对比
一、引言 本文是上一篇AI智能体研发之路-模型篇（四）：一文入门pytorch开发的番外篇，对上文中pytorch的网络结构和tensorflow的模型结构部分进一步详细对比与说明（水一篇为了得到当天的流量卷哈哈，如果想更详细的了解pytorch，辛苦移步上一篇哈。 二、pytorch模型结构定义 ...
AI智能体研发之路-模型篇（三）：中文大模型开、闭源之争
一、引言 周日休息在家，只有码字才能缓解焦虑哈哈哈，闲逛CSDN发现又出新的话题活动啦——《开源大模型和闭源大模型，你怎么看》。“我怎么看？我坐着看，或者躺着看”。OpenAI变成CloseAI，你会发现，虚伪，是全世界的通病。扯远了哈哈，我认为，开源可以短时间让自家的大模型快速得到传播，构建影响力以及让行业内更多的人参与建设，完善技术栈。闭源可以维护较为健康的商业模式，高薪招聘更多优秀...
AI智能体研发之路-工程篇（一）：Docker助力AI智能体开发提效
一、引言 由于近两年云原生热，大家对docker、docker compose及k8s或多或少都有一些涉猎，即便没有实际应用肯定也耳熟能详，今天对docker及docker compose的命令集进行梳理，大家可以收藏以便之后快速查阅。 二、docker常用命令 Common Commands（常用命令）: run &nbs...
AI智能体研发之路-工程篇（三）：大模型推理服务框架Ollama一键部署
一.引言 身处2024年，大模型技术从底层模型到AI应用都卷的要命，我们可以说是幸运的，也可以是幸福的，当然，学习的路上，不停的追赶，必定是疲惫的。分享一些丝滑的大模型技术栈内的项目，让大家疲惫并快乐着。 今天要讲的是一个大模型推理服务框架-Ollama，对比的还有Xinference、OpenLLM、LocalAI，从丝滑角度而言（这里特别强调一下，我所讲的丝滑，指的是众所周知...
本页面内关键词为智能算法引擎基于机器学习所生成，如有任何问题，可在页面下方点击"联系我们"与我们沟通。
通义大模型
通义千问大模型家族全面升级更大参数规模模型首次面世，全新通义千问2.0版本欢迎体验。https://tongyi.aliyun.com/
+关注