阿里云文档 2025-10-27

MaxCompute AI Function提供低代码、多引擎支持的预定义函数,简化大模型与机器学习推理在大数据场景中的应用。更加便捷的通过SQL或Python调用大模型和机器学习能力。

AI Function是MaxCompute提供的一组面向AI业务场景的预定义函数,将复杂的AI推理操作封装为简洁的SQL或Python算子。用户无需编写底层模型调用代码,即可通过标准SQL或MaxFrame(分布式Python引擎)直接调用大模型或机器学习模型,显著降低用户在数据处理、大数据分析等场景的AI使用门槛。

阿里云文档 2025-08-01

微调、部署并实现Llama-3.1模型的高效推理

阿里云PAI灵骏智算服务是面向大规模深度学习场景的智算产品,提供一站式的异构计算资源和AI工程化平台。本方案将为您介绍如何使用阿里云PAI灵骏智算服务,以及基于Meta-Llama-3.1-8B的开源模型和Megatron的训练流程,进行模型微调、离线推理验证,并实现在线服务部署。

阿里云文档 2025-07-04

多机分布式推理

随着DeepSeek 671B等超大规模MoE模型的问世,单一设备已难以承载其庞大的参数量。为此,EAS推出多机分布式推理解决方案,突破硬件限制,实现单个服务实例部署在多台机器上,高效支持超大规模模型的部署与运行。本文为您介绍如何配置多机分布式推理。

文章 2025-01-03 来自:开发者社区

AI推理新纪元,PAI全球化模型推理服务的创新与实践

在过去的一年里,大家见证了AI浪潮的风起云涌。我这几天也跟大家一样,穿梭在各个展区中,看到非常多有趣的AI应用和创新应用的迸发。同时,我还参加了许多session,聆听了众多专家分享他们如何利用AI技术重塑各行各业。 那么我们看到了什么呢?我们看到了AI正扮演着客服的角色,成为了我们的导购,甚至担当起了面试官的重任。就连在游戏中,我们也不再仅仅与玩家组队,而是开始与AI并肩作战...

阿里云文档 2024-12-30

图像生成推理

图像生成推理算法主要利用训练好的模型来生成符合特定特征或条件的高质量图像。它支持加载各种经过训练的GAN模型(如DCGAN、WGAN-GP、LSGAN、GGAN、PGGAN和StyleGAN),并基于随机噪声生成新图像。该算法广泛应用于图像生成、图像增强和数据增强等多个领域。

问答 2024-08-07 来自:开发者社区

如果有的特征变换在线上推理时也要做,机器学习PAI怎么保证线上线下用的特征变换算子是一致的?

如果有的特征变换在线上推理时也要做,机器学习PAI怎么保证线上线下用的特征变换算子是一致的?

问答 2024-07-23 来自:开发者社区

大模型推理和大模型训练有啥区别?

大模型推理和大模型训练有啥区别?

阿里云文档 2024-07-08

MLP回归的推理过程

MLP(Multilayer Perceptron,多层感知器)回归是一种基于神经网络的回归算法,主要用于解决非线性回归问题。它通过多个隐藏层将输入特征映射到输出,能够捕捉复杂的模式和关系。MLP回归算法在推理阶段的主要任务是使用训练好的模型对新数据进行预测。这一过程包括加载模型、预处理新数据、通过前向传播计算、获取最终预测结果。

问答 2024-05-01 来自:开发者社区

ModelScope推理模型训练脚本貌似有问题,怎么解决?

ModelScope推理模型训练脚本貌似有问题,根据报错 map_dict = {0: "矛盾", 1: "蕴涵", 2: "中立"} 这里不应该是中文,怎么解决? https://www.modelscope.cn/models/damo/nlp_structbert_nli_chinese-base/summary

问答 2023-05-03 来自:开发者社区

请问下,如果我只需要一个文本分类任务的标注、训练、推理、部署,是否就不需要采购pai服务了?只用采购

请问下,如果我只需要一个文本分类任务的标注、训练、推理、部署,是否就不需要采购pai服务了?只用采购咱们nlp就行了?

本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。

产品推荐

阿里云机器学习平台PAI

阿里云机器学习PAI(Platform of Artificial Intelligence)面向企业及开发者,提供轻量化、高性价比的云原生机器学习平台,涵盖PAI-iTAG智能标注平台、PAI-Designer(原Studio)可视化建模平台、PAI-DSW云原生交互式建模平台、PAI-DLC云原生AI基础平台、PAI-EAS云原生弹性推理服务平台,支持千亿特征、万亿样本规模加速训练,百余落地场景,全面提升工程效率。

+关注