阿里云文档 2025-07-16

批量推理

对于无需实时响应的业务场景,批量推理服务可以通过离线方式进行大规模数据处理。批量推理的计费仅为实时推理的50%,帮助您有效节省资源消耗成本。

阿里云文档 2025-06-09

使用通义千问大模型对PolarDB数据进行推理与交互

PolarDB for AI已将阿里云通义千问大模型部署至PolarDB集群。您可以通过SQL语句直接调用内置的通义千问大模型,从而对PolarDB集群中的数据进行推理和交互。

文章 2025-06-04 来自:开发者社区

小米又放大招!MiMo-VL 多模态大模型开源,魔搭推理微调全面解读来了!

01.引言 今天,小米开源发布两款 7B 规模视觉-语言模型 MiMo-VL-7B-SFT 和 MiMo-VL-7B-RL。   MiMo-VL-7B的模型架构为:   ① 保持细粒度视觉细节的原生分辨率ViT编码器 ② 用于高效跨模态对齐的MLP projector ③ 专为复杂推理任务优化的MiMo-7B语言模型 ...

小米又放大招!MiMo-VL 多模态大模型开源,魔搭推理微调全面解读来了!
阿里云文档 2025-04-21

本地部署通义千问QwQ-32B模型

通义千问QwQ-32B是阿里云开源的320亿参数推理模型,通过大规模强化学习在数学推理、编程及通用任务中实现性能突破,支持消费级显卡本地部署,兼顾高效推理与低资源消耗。本文将介绍如何利用vLLM作为通义千问QwQ-32B模型的推理框架,在一台阿里云GPU实例上构建通义千问QwQ-32B的推理服务。

文章 2025-02-05 来自:开发者社区

MustDrop:多阶段去除冗余视觉token,提升多模态大模型推理效率

论文标题: Multi-Stage Vision Token Dropping: Towards Efficient Multimodal Large Language Model 单位: 本文由国防科技大学、合肥工业大学、上海交通大学共同完成。 论文链接: https://arxiv.org/pdf/2411.10803 模型链接: ht...

MustDrop:多阶段去除冗余视觉token,提升多模态大模型推理效率
文章 2024-10-29 来自:开发者社区

首个Mamba+Transformer混合架构多模态大模型来了,实现单卡千图推理

在人工智能领域,多模态大模型(MLLMs)的发展一直备受关注。这些模型能够同时处理文本、图像等多种类型的数据,在视频理解、高分辨率图像分析以及多模态智能体等领域具有广泛的应用前景。然而,随着模型规模的不断扩大,如何在保持性能的同时提高计算效率成为了一个亟待解决的问题。 近日,一篇名为《LongLLa...

文章 2024-06-29 来自:开发者社区

北大推出全新机器人多模态大模型!面向通用和机器人场景的高效推理和操作

在机器人领域,如何让机器人能够像人类一样理解视觉场景并执行相应的操作,一直是一个重要的研究方向。然而,现有的机器人多模态大模型(MLLM)在处理复杂任务时,往往存在推理能力不足和计算成本高昂的问题。为了解决这些问题,北京大学的研究团队提出了一种名为RoboMamba的新型机器人多模态大模型。 Rob...

问答 2024-06-07 来自:开发者社区

如何本地化(局域网内)部署Qwen的多模态大模型,用作推理 并自有程序调用

如何本地化(局域网内)部署Qwen的多模态大模型,用作推理 并自有程序调用。并计划像使用qwen-vl-max一样使用它( response = dashscope.MultiModalConversation.call(model=model_name, messages=messages))。 请问下选择怎么部署和调用呢?

文章 2024-03-31 来自:开发者社区

只要千元级,人人可用百亿级多模态大模型!国产“AI模盒”秒级训练推理

随着人工智能技术的飞速发展,AI已经渗透到我们生活的方方面面,从智能语音助手到自动驾驶汽车,再到智慧城市的构建,AI正以前所未有的速度改变着我们的世界。在这个过程中,深圳云天励飞技术股份有限公司以其卓越的技术实力和创新精神,成为了国内AI领域的一颗璀璨明星。 云天励飞成立于2014年,短短几年间,就从一个初创企业成长为国内AI领域的独角兽企业。这得益于公司在AI算法、芯片、大数据等关键技术平台.....

只要千元级,人人可用百亿级多模态大模型!国产“AI模盒”秒级训练推理
文章 2024-01-29 来自:开发者社区

零一万物开源Yi-VL多模态大模型,魔搭社区推理&微调最佳实践来啦!

导读近期,零一万物Yi系列模型家族发布了其多模态大模型系列,Yi Vision Language(Yi-VL)多模态语言大模型正式面向全球开源。凭借卓越的图文理解和对话生成能力,Yi-VL模型在英文数据集MMMU和中文数据集CMMMU上取得了领先成绩,展示了在复杂跨学科任务上的强大实力。基于Yi语言模型的强大文本理解能力,只需对图片进行对齐,就可以得到不错的多模态视觉语言模型——这也是Yi-VL....

零一万物开源Yi-VL多模态大模型,魔搭社区推理&微调最佳实践来啦!

本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。

产品推荐

通义大模型

阿里云自主研发的通义大模型,凭借万亿级超大规模数据训练和领先的算法框架,实现全模态高效精准的模型服务调用。https://www.aliyun.com/product/tongyi

+关注