使用EAS自定义部署vLLM大语言模型在线服务-人工智能平台 PAI-阿里云
通过EAS可以快速将模型部署为在线推理服务。本文以vLLM框架部署Qwen3-0.6B模型为例，介绍使用EAS部署服务并调用的全流程。
人工智能模型决策过程：机器与人类协作成效
决策智能（DI）就是用高级数据分析来帮助我们做出聪明的决定，同时也给咱们自己判断留了余地。 现在市场变化特别快，很多传统决策方法在贸易和工业公司看来都过时了。要想做出既可持续又准确的决策，最好的办法就是把人工智能（AI）和人的判断结合起来。这种情况下，数据好不好用特别重要。比如，推出新产品前，得从客户数据库、竞争对手的报价、成本和资源情况里头搜集尽可能多的信息。现在的人工智能方法特别擅长...
BladeLLM模型量化
针对LLM模型量化，BladeLLM提供了高效易用的量化功能，包括仅权重量化（weight_only_quant）和权重激活联合量化（act_and_weight_quant），集成了若干主流有效的量化算法，如GPTQ、 AWQ、 SmoothQuant等，同时支持INT8、INT4、FP8等多种数据类型的量化。本文为您介绍如何进行模型量化操作。
模型量化参数配置说明
BladeLLM通过命令行语句 blade_llm_quantize 来执行模型量化操作，生成的量化模型可直接使用BladeLLM进行推理和部署。本文将为您介绍blade_llm_quantize支持的各项配置参数及其说明。
谷歌AutoML创造者Quoc Le：未来最好的人工智能模型将由机器生成
作为谷歌大脑的创始成员和 AutoML 的缔造者之一，Quoc Le 算得上是人工智能研究领域的原住民了。2011 年在斯坦福大学读博时，Le 和他的老师吴恩达以及谷歌大脑的研究人员一起，基于千万张 YouTube 图像开发了一个能够识别猫的无监督学习系统；2014 年，他将深度学习技术应用在自然语言理解任务上，提出了能将文本转换为向量表征、基于循环神经网络的 Seq2Seq 学习模型，将机器翻....
本页面内关键词为智能算法引擎基于机器学习所生成，如有任何问题，可在页面下方点击"联系我们"与我们沟通。