阿里云文档 2024-11-29

微调、部署并实现Llama-3.1模型的高效推理

阿里云PAI灵骏智算服务是面向大规模深度学习场景的智算产品,提供一站式的异构计算资源和AI工程化平台。本方案将为您介绍如何使用阿里云PAI灵骏智算服务,以及基于Meta-Llama-3.1-8B的开源模型和Megatron的训练流程,进行模型微调、离线推理验证,并实现在线服务部署。

阿里云文档 2024-11-15

大语言模型数据增强与模型蒸馏解决方案

大语言模型的训练和推理过程存在高能耗及长响应时间等问题,这些问题限制了其在资源有限场景中使用。为了解决这些问题,PAI提出了模型蒸馏功能。该功能支持将大模型知识迁移到较小模型,从而在保留大部分性能的同时,大幅降低模型的规模和对计算资源的需求,为更多的实际应用场景提供支持。本文将以通义千问2(Qwen2)大语言模型为基础,为您介绍大语言模型数据增强和蒸馏解决方案的完整开发流程。

阿里云文档 2024-11-15

大语言模型数据增强与模型蒸馏解决方案

大语言模型的训练和推理过程存在高能耗及长响应时间等问题,这些问题限制了其在资源有限场景中使用。为了解决这些问题,PAI提出了模型蒸馏功能。该功能支持将大模型知识迁移到较小模型,从而在保留大部分性能的同时,大幅降低模型的规模和对计算资源的需求,为更多的实际应用场景提供支持。本文将以通义千问2(Qwen2)大语言模型为基础,为您介绍大语言模型数据增强和蒸馏解决方案的完整开发流程。

阿里云文档 2024-10-22

大模型评测

大模型评测

阿里云文档 2024-10-18

EAS模型在线服务预标注

iTAG支持在线模型服务预标注,创建EAS模型在线服务后,您可以在模型服务中完成注册,然后在创建任务的时候利用模型服务进行预标注。

文章 2024-10-10 来自:开发者社区

【机器学习】逻辑回归原理(极大似然估计,逻辑函数Sigmod函数模型详解!!!)

逻辑回归应用场景 在KNN算法中直接可以得出预测结果,但是如果想输出预测结果,还要输出预测结果的概率,这时候就需要使用逻辑回归解决问题。 比如,预测性别的时候,预测为男性,同时预测概率为90%,这样可以通过概率更加具有说服力。 应用场景 逻辑回归(Logistic Regression)是机器学习中的一种分类模型,逻辑回归是一种分类算法,虽然名字中...

【机器学习】逻辑回归原理(极大似然估计,逻辑函数Sigmod函数模型详解!!!)
文章 2023-12-20 来自:开发者社区

【机器学习】算法术语、决策函数、概率模型、神经网络的详细讲解(图文解释)

一、机器学习算法术语1)数据集(Data Set),训练集(Training Set),验证集(Validation Set)和测试集(Test Set)数据集分为训练数据和测试数据。测试数据集合即为测试集,是需要应用模型进行预测的那部分数据,是机器学习所有工作的最终服务对象。为了防止训练出来的模型只对训练数据有效,一般将训练数据又分为训练集和验证集,训练集用来训练模型,而验证集一般只用来验证模....

【机器学习】算法术语、决策函数、概率模型、神经网络的详细讲解(图文解释)
文章 2022-06-13 来自:开发者社区

python机器学习classification_report()函数 输出模型评估报告

classification_report()是python在机器学习中常用的输出模型评估报告的方法。 classification_report()函数介绍 classification_report()语法如下: classification_report(          y_true,          y_pred,          labels=None,         ...

python机器学习classification_report()函数 输出模型评估报告
文章 2022-02-17 来自:开发者社区

LinkedIn 开源 Java 机器学习函数库Dagli,提供开发高效能且生产就绪的模型

对资深的机器学习工程师来说,Dagli 提供开发高效能且生产就绪的模型,能够长期维护,也能扩充,与现在基于JVM 技术的堆叠整合。对于机器学习新手工程师,Dagli 提供直观的API,能结合熟悉的JVM 工具使用,并避免常见的逻辑错误。LinkedIn 的自然语言处理研究科学家 Jeff Pasternack 表示,机器学习模型通常是集成管道的一部分。这使生产管道的建设,培训和部署更具挑战性。为....

LinkedIn 开源 Java 机器学习函数库Dagli,提供开发高效能且生产就绪的模型

本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。

产品推荐

人工智能平台PAI

人工智能平台 PAI(Platform for AI,原机器学习平台PAI)是面向开发者和企业的机器学习/深度学习工程平台,提供包含数据标注、模型构建、模型训练、模型部署、推理优化在内的AI开发全链路服务,内置140+种优化算法,具备丰富的行业场景插件,为用户提供低门槛、高性能的云原生AI工程化能力。

+关注