文章 2024-11-27 来自:开发者社区

Qwen2.5-Coder 系列模型在 PAI-QuickStart 的训练、评测、压缩及部署实践

Qwen2.5-Coder 是阿里云最新推出的专门针对代码的 Qwen 大型语言模型系列。目前,Qwen2.5-Coder 覆盖了多种主流模型尺寸:0.5B、1.5B、3B、7B、14B 和 32B,以满足不同开发人员的需求。Qwen2.5-Coder 将训练 tokens 扩展到 5.5 万亿,在代码生成、代码推理和代码纠错能力方面有着显...

Qwen2.5-Coder 系列模型在 PAI-QuickStart 的训练、评测、压缩及部署实践
阿里云文档 2024-11-20

通义千问2.5模型部署与微调

通义千问2.5(Qwen2.5)是阿里云研发的通义千问系列开源大模型。该系列提供Base和Instruct等多版本、多规模的开源模型,从而满足不同的计算需求。PAI已对该系列模型进行全面支持,本文以通义千问2.5-7B-Instruct模型为例为您介绍如何在Model Gallery中部署、微调和评测该系列模型(本文适用于Qwen2.5和Qwen2系列模型)。

文章 2024-11-20 来自:开发者社区

DistilQwen2 蒸馏小模型在 PAI-QuickStart 的训练、评测、压缩及部署实践

Qwen2(通义千问2)是阿里云研发的开源大型语言模型系列,具有很强的代码、数学、推理、指令遵循、多语言理解等能力。DistilQwen2 是阿里云人工智能平台 PAI 基于 Qwen2 大模型推出的、通过知识蒸馏进行指令遵循效果增强的、参数较小的语言模型。这一系列模型在移动设备、边缘计算等资源受限的环境中具有更高的性能,在较小参数规模下&...

DistilQwen2 蒸馏小模型在 PAI-QuickStart 的训练、评测、压缩及部署实践
阿里云文档 2024-11-18

大模型评测案例

在大模型时代,模型评测是衡量性能、精选和优化模型的关键环节,对加快AI创新和实践至关重要。PAI大模型评测平台支持多样化的评测场景,如不同基础模型、微调版本和量化版本的对比分析。本文为您介绍针对于不同用户群体及对应数据集类型,如何实现更全面准确且具有针对性的模型评测,从而在AI领域可以更好地取得成就。

阿里云文档 2024-11-18

大模型评测案例

在大模型时代,模型评测是衡量性能、精选和优化模型的关键环节,对加快AI创新和实践至关重要。PAI大模型评测平台支持多样化的评测场景,如不同基础模型、微调版本和量化版本的对比分析。本文为您介绍针对于不同用户群体及对应数据集类型,如何实现更全面准确且具有针对性的模型评测,从而在AI领域可以更好地取得成就。

阿里云文档 2024-10-22

大模型评测

大模型评测

文章 2024-10-21 来自:开发者社区

PAI 大语言模型评测平台现已支持裁判员模型评测

在大模型时代,随着模型效果的显著提升,模型评测的重要性日益凸显。为了有效评价大语言模型(LLM),业界提供了多种基准测试,例如 MMLU、CMMLU,GSM8K 等。但是,这些基准测试更多是针对确定性问题及确定性表述,评测 LLM 在开放场景下的能力(例如聊天助手)仍然是...

PAI 大语言模型评测平台现已支持裁判员模型评测
文章 2024-07-17 来自:开发者社区

带你读《阿里云产品六月刊》——十一、阿里云PAI大模型评测最佳实践

简介: 在大模型时代,模型评测是衡量性能、精选和优化模型的关键环节,对加快AI创新和实践至关重要。PAI大模型评测平台支持多样化的评测场景,如不同基础模型、微调版本和量化版本的对比分析。本文为您介绍针对于不同用户群体及对应数据集类型,如何实现更全面准确且具有针对性的模型评测,从而在AI领域可以更好地取得成就。 作者:施晨、之用、南茵、求伯、一耘、临在   在大模...

带你读《阿里云产品六月刊》——十一、阿里云PAI大模型评测最佳实践
文章 2024-06-19 来自:开发者社区

阿里云PAI大模型评测最佳实践

作者:施晨、之用、南茵、求伯、一耘、临在 在大模型时代,模型评测是衡量性能、精选和优化模型的关键环节,对加快AI创新和实践至关重要。PAI大模型评测平台支持多样化的评测场景,如不同基础模型、微调版本和量化版本的对比分析。本文为您介绍针对于不同用户群体及对应数据集类型,如何实现更全面准确且具有针对性的模型评测,从而在AI领域可以更好地取得成就。 背景信息 内容简介 ...

阿里云PAI大模型评测最佳实践
文章 2024-06-14 来自:开发者社区

通义千问2(Qwen2)大语言模型在PAI-QuickStart的微调、评测与部署实践

Qwen2(通义千问2)是阿里云最近推出的开源大型语言模型系列,相比2月推出的Qwen1.5,Qwen2实现了整体性能的代际飞跃,大幅提升了代码、数学、推理、指令遵循、多语言理解等能力。其中,Qwen2系列包含5个尺寸的预训练和指令微调模型,Qwen2-0.5B、Qwen2-1.5B、Qwen2-7B、Qwen2-57B-A14B和Qwen2-72B,其中,Qwen2-57B-A14B为混合专家....

通义千问2(Qwen2)大语言模型在PAI-QuickStart的微调、评测与部署实践

本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。

产品推荐

人工智能平台PAI

人工智能平台 PAI(Platform for AI,原机器学习平台PAI)是面向开发者和企业的机器学习/深度学习工程平台,提供包含数据标注、模型构建、模型训练、模型部署、推理优化在内的AI开发全链路服务,内置140+种优化算法,具备丰富的行业场景插件,为用户提供低门槛、高性能的云原生AI工程化能力。

+关注