高性价比且充裕的 GPU 算力,服务于 AI 客服、文生图、LLM等多种AI场景。阿里云随时为您提供高效、高性价比、高性能算力,助力企业快速实现 AI 应用落地。
高性价比且充裕的 GPU 算力,服务于 AI 客服、文生图、LLM等多种AI场景。阿里云随时为您提供高效、高性价比、高性能算力,助力企业快速实现 AI 应用落地。
No.3
本期回答网友关于GPU算力的提问提升 GPU 性能是模型训练变快的最佳途径?哪些方法能实现 GPU 的高效利用?
在百炼平台上进行了语言模型的微调工作,训练好的模型参数保存在哪儿,后续又如何调用跟部署呢?
阿里云百炼模型工程架构负责人刘阳:训练好的model都在模型中心,模型中心里提供了专属部署的方式方便大家通过API来调用。
知识切片的标题是否会影响检索召回?
阿里云百炼算法架构负责人高金杨:这个答案是一定的,而且在有些场景下确实有这种应用,最典型的就是FAQ,其实我们只希望去跟问题做匹配……
Modelscope目前支持工作流式来搭建agent智能体吗?
阿里巴巴通义实验室技术总监周文猛:支持的,在ModelScope的github的group下面,我们有两个框架,一个ModelScope Agent,一个Agent Scope。其中Agent Scope focus在多个agent以及复杂的工作流的情况下拖拉拽的编排……
千卡以上级别的大型训练任务,如何保障稳定性?
阿里云人工智能平台PAI技术专家沈隐:训练前先用PAI SanityCheck进行集群硬件、网络健康检测;训练中,PAI上可使用C4D等工具进行hang检测、降速检测等;任务运行失败时……
如何查看开源大模型的许可协议内容,有什么具体的要求?
魔搭社区高级技术运营专家成晨:魔搭社区上面它会有一个这样的标签,比如说像Apache2.0,还有一种情形是模型的贡献者为这个模型制定了license,一般附在模型文件的report下面……
Qwen开源系列在各个任务榜单当中表现如何,是否有一些基准测试的结果可以参考?
魔搭社区高级技术运营专家成晨:通义千问是一个在国内外都非常受欢迎的模型,在HuggingFace open LLM leaderboard上,Qwen2-72B一上线就获得了榜单的全球第一的成绩,其次基于Qwen2的衍生模型在越来越多……
市面上智能编码工具非常多,开发者选择时有什么标准吗?
阿里云通义灵码产品技术负责人神秀:程序员首先对代码助手IDE插件的第一要求就是准,采纳率一定得高;二是代码生成要足够的快,还有能否跟企业内部的规范或个人开发习惯进行结合,以及考虑安全性
如何通过智能编码助手辅助开发人员进行代码走读,快速了解代码?
阿里云通义灵码产品技术负责人神秀:大量开发者是通过代码解释功能,快速了解整个代码的含义。除了简单的代码解释,圈选代码就可以完成。另外,还可以通过@workspace功能,让大模型对整个库进行走读……
代码的RAG知识库是什么功能?应该怎么管理才能提升代码编写的准确性?
阿里云通义灵码产品技术负责人神秀:检索增强是针对企业版推出的重要功能。包括代码补全的 RAG,主要是在代码续写时进行辅助,还有企业的知识问答,将企业的研发文档,或者API定义的文档上传,通过 #team docs,就可以让大模型有针对性地实时……
在百炼平台上进行了语言模型的微调工作,训练好的模型参数保存在哪儿,后续又如何调用跟部署呢?
阿里云百炼模型工程架构负责人刘阳:训练好的model都在模型中心,模型中心里提供了专属部署的方式方便大家通过API来调用。
知识切片的标题是否会影响检索召回?
阿里云百炼算法架构负责人高金杨:这个答案是一定的,而且在有些场景下确实有这种应用,最典型的就是FAQ,其实我们只希望去跟问题做匹配……
Modelscope目前支持工作流式来搭建agent智能体吗?
阿里巴巴通义实验室技术总监周文猛:支持的,在ModelScope的github的group下面,我们有两个框架,一个ModelScope Agent,一个Agent Scope。其中Agent Scope focus在多个agent以及复杂的工作流的情况下拖拉拽的编排……
千卡以上级别的大型训练任务,如何保障稳定性?
阿里云人工智能平台PAI技术专家沈隐:训练前先用PAI SanityCheck进行集群硬件、网络健康检测;训练中,PAI上可使用C4D等工具进行hang检测、降速检测等;任务运行失败时……
如何查看开源大模型的许可协议内容,有什么具体的要求?
魔搭社区高级技术运营专家成晨:魔搭社区上面它会有一个这样的标签,比如说像Apache2.0,还有一种情形是模型的贡献者为这个模型制定了license,一般附在模型文件的report下面……
Qwen开源系列在各个任务榜单当中表现如何,是否有一些基准测试的结果可以参考?
魔搭社区高级技术运营专家成晨:通义千问是一个在国内外都非常受欢迎的模型,在HuggingFace open LLM leaderboard上,Qwen2-72B一上线就获得了榜单的全球第一的成绩,其次基于Qwen2的衍生模型在越来越多……
市面上智能编码工具非常多,开发者选择时有什么标准吗?
阿里云通义灵码产品技术负责人神秀:程序员首先对代码助手IDE插件的第一要求就是准,采纳率一定得高;二是代码生成要足够的快,还有能否跟企业内部的规范或个人开发习惯进行结合,以及考虑安全性