阿里云文档 2024-11-01

AI模型推理服务在Knative中最佳配置实践

Knative和AI结合提供了快速部署、高弹性和低成本的技术优势,适用于需要频繁调整计算资源的AI应用场景,例如模型推理等。您可以通过Knative Pod部署AI模型推理任务,配置自动扩缩容、灵活分配GPU资源等功能,提高AI推理服务能力和GPU资源利用率。

文章 2024-10-24 来自:开发者社区

阿里云AI大模型助力客户对话分析——全方位提升服务与体验

随着数字化转型的推进,企业越来越重视客户互动数据的价值挖掘。阿里云推出了一套基于AI大模型的客户对话分析解决方案,旨在帮助企业通过自动化手段分析大量的客户对话数据,从中提取有价值的信息,进而优化服务流程、提升客户体验。本文将结合阿里云的技术文档和实际体验,对这一解决方案进行全面评测。 一、方案概览 方案架构 阿里云的AI大...

阿里云AI大模型助力客户对话分析——全方位提升服务与体验
阿里云文档 2024-10-23

向量降维服务训练

向量降维服务训练功能支持结合用户提供的向量数据,定制训练向量降维模型。实际业务场景中,先通过向量化模型对文本或者Query向量化,然后结合向量降维模型降低向量维度。

阿里云文档 2024-10-18

配置NL2SQL服务

查询分析服务中的NL2SQL提供将自然语言查询转换为SQL语句的能力,本文介绍如何配置查询分析-NL2SQL服务。

阿里云文档 2024-09-14

AI Doc服务关联角色有哪些应用场景

本文为您介绍AI Doc服务关联角色的应用场景以及如何删除服务关联角色。

问答 2024-08-27 来自:开发者社区

阿里云语音AI开通了CosyVoice大模型服务后怎么选择专属的音色呢,还是默认音色都可以?

阿里云语音AI开通了CosyVoice大模型服务后怎么选择专属的音色呢,还是默认音色都可以?

问答 2024-08-27 来自:开发者社区

阿里云语音AI怎么在创建项目里使用CosyVoice大模型服务?

阿里云语音AI怎么在创建项目里使用CosyVoice大模型服务?

文章 2024-08-13 来自:开发者社区

AI智能体研发之路-工程篇(五):大模型推理服务框架LocalAI一键部署

一、引言 今天开始写大语言模型推理服务框架的第三篇——LocalAI,前两篇见 大语言模型推理服务框架—Ollama 大语言模型推理服务框架—Xinference 这个框架相比于前两篇,如果服务器没办法科学上网,学习和使用难度都要上一个台阶,花了几个小时踩了几个坑,将排坑后的内容分享给大家,如果大家觉得有用的话,希望获得您的关注、收藏、点赞及评论。 二、排...

AI智能体研发之路-工程篇(五):大模型推理服务框架LocalAI一键部署
文章 2024-08-13 来自:开发者社区

AI智能体研发之路-工程篇(四):大模型推理服务框架Xinference一键部署

一.引言 上一篇大语言模型推理服务框架—Ollama介绍了Ollama,Ollama以出色的设计一行命令完成推理框架部署,一行命令完成大模型部署,模型的下载不依赖梯子,速度非常快,大幅提升模型部署效率,同时,当有多卡GPU时,Ollama可以自动将模型分片到各个GPU上,博主使用V100显卡(单卡32G显存)部署llama3 70B(预计需要40G显存),自动完成了显存分配。 今...

AI智能体研发之路-工程篇(四):大模型推理服务框架Xinference一键部署

本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。

产品推荐

{"cardStyle":"productCardStyle","productCode":"aliyun","productCardInfo":{"productTitle":"阿里云 AI","productDescription":"从 AI 应用构建,模型部署到训练,一站式了解阿里云经典的 AI 应用场景和解决方案。","productContentLink":"https://www.aliyun.com/solution/tech-solution/ai","isDisplayProductIcon":true,"productButton1":{"productButtonText":"查看详情","productButtonLink":"https://www.aliyun.com/solution/tech-solution/ai"},"productButton2":{"productButtonText":"联系 AI 专家","productButtonLink":"https://page.aliyun.com/form/act933288178/index.htm?spm=5176.29311086.J_RY_4Q8--sru4dMV7o3lqS.2.22ec5297YL7w86"},"productButton3":{"productButtonText":"立即体验","productButtonLink":"https://bailian.console.aliyun.com/?spm=5176.28326591.0.0.56136ee1bpor89#/efm/model_experience_center"},"productPromotionInfoBlock":[{"$id":"0","productPromotionGroupingTitle":"热门体验","productPromotionInfoFirstText":"文生文应用","productPromotionInfoFirstLink":"https://bailian.console.aliyun.com/?spm=5176.29311086.J__xR9sQs7AmaTHLBTgN3VS.1.22ec52978mJi5p#/home","productPromotionInfoSecondText":"文生图应用","productPromotionInfoSecondLink":"https://bailian.console.aliyun.com/?spm=5176.29311086.J__xR9sQs7AmaTHLBTgN3VS.2.22ec52978mJi5p#/efm/model_experience_center?modelId=wanx-v1"},{"$id":"1","productPromotionGroupingTitle":"热门产品","productPromotionInfoFirstText":"大模型服务平台百炼","productPromotionInfoFirstLink":"https://www.aliyun.com/product/bailian","productPromotionInfoSecondText":"人工智能平台 PAI","productPromotionInfoSecondLink":"https://www.aliyun.com/product/bigdata/learn"},{"$id":"2","productPromotionGroupingTitle":"技术解决方案","productPromotionInfoFirstText":"向量检索与通义千问搭建专属问答服务","productPromotionInfoFirstLink":"https://www.aliyun.com/solution/tech-solution/dashvector","productPromotionInfoSecondText":"创意加速器:AI 绘画创作","productPromotionInfoSecondLink":"https://www.aliyun.com/solution/tech-solution/tongyi-wanxiang"},{"$id":"3","productPromotionGroupingTitle":"热门模型","productPromotionInfoFirstText":"通义千问","productPromotionInfoFirstLink":"https://tongyi.aliyun.com","productPromotionInfoSecondText":"通义万相","productPromotionInfoSecondLink":"https://tongyi.aliyun.com/wanxiang"}],"isOfficialLogo":false},"activityCardInfo":{"activityTitle":"","activityDescription":"","cardContentBackgroundMode":"LightMode","activityContentBackgroundImageLink":"","activityCardBottomInfoSelect":"activityPromotionInfoBlock","activityPromotionInfoBlock":[]}}

人工智能平台PAI

人工智能平台 PAI(Platform for AI,原机器学习平台PAI)是面向开发者和企业的机器学习/深度学习工程平台,提供包含数据标注、模型构建、模型训练、模型部署、推理优化在内的AI开发全链路服务,内置140+种优化算法,具备丰富的行业场景插件,为用户提供低门槛、高性能的云原生AI工程化能力。

+关注