阿里云文档 2026-03-06

部署千问-7B大模型

本文以搭建AI对话机器人为例,介绍如何使用阿里云AMD CPU云服务器(g8a)部署Qwen-7B模型。

阿里云文档 2025-12-20

在阿里云GPU云服务器上基于Alpaca大模型搭建个人版“对话大模型”

本教程介绍如何在阿里云GPU云服务器上基于Alpaca大模型快速搭建个人版“对话大模型”。

高性能

文档智能与 RAG 构建 LLM 知识库

本方案介绍了如何实现将文档智能和检索增强生成(RAG)结合起来构建强大的 LLM 知识库,包括清洗文档内容、文档内容向量化、问答内容召回后通过特定的 Prompt,提供给 LLM 足够的上下文信息,以此来满足对于企业级文档类型知识库的问答处理。
高性能

构建大模型应用的安全防护体系

随着大模型应用在各行业的广泛使用,企业面临前所未有的安全挑战。阿里云的安全产品提供全面的大模型应用安全防护体系,能够有效应对提示词注入、有害内容生成以及软件供应链漏洞等风险。保障企业在释放AI创新潜力时规避隐患,加速技术安全合规落地。
技术解决方案背景图
问答 2024-07-09 来自:开发者社区

魔塔ModelScope社区搭建大模型需要准备一台gpu服务器吗?

魔塔ModelScope社区搭建大模型需要准备一台gpu服务器吗?

问答 2024-05-22 来自:开发者社区

函数计算部署的大模型能跟服务器交互吗?

函数计算部署的大模型能跟服务器交互吗?

文章 2024-05-16 来自:开发者社区

社区供稿 | Yuan2.0千亿大模型在通用服务器上的高效推理实现:以NF8260G7服务器为例

引言 近日,浪潮信息联合Intel在IPF大会上发布了可运行千亿参数大模型的AI通用服务器,首次实现了单机通用服务器,即可运行千亿参数大模型。并在发布现场演示了基于NF8260G7服务器进行yuan2.0-102B模型在代码编写、逻辑推理等高难度问题上的实时推理效果,引起了业界广泛的关注。本文将详细解读yuan2.0-102B模型在NF8260G7服务器上进行高效实时...

社区供稿 | Yuan2.0千亿大模型在通用服务器上的高效推理实现:以NF8260G7服务器为例
问答 2024-01-16 来自:开发者社区

我们想在阿里云搭建 chatglm6b 的大模型服务,,LLM大语言模型大概需要什么样的ecs配置?

我们想在阿里云搭建 chatglm6b 的大模型服务,3000左右的使用人数,LLM大语言模型大概需要什么样的ecs配置?不考虑用 sass 服务。

文章 2023-07-27 来自:开发者社区

科技云报道:大模型的火烧到了AI服务器上

科技云报道原创。 大模型的纷争已经随着各大入局者公布产品后,热度逐渐退去,但是由大模型带来的产业链高频共振,已经传递了算力层。 表现最为激烈的,就是AI服务器市场。大模型带来的算力需求,直接引发了一波AI服务器抢购潮和涨价潮。 据《证券时报》报道,一家检测企业透露,他们在去年6月购买的8台AI服务器到今年三月已经涨价到130万每台,到现在价格飙升至160万每台。不到一年的时间,价格涨幅...

科技云报道:大模型的火烧到了AI服务器上

本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。

产品推荐

云服务器ECS

做技术先进、性能优异、稳如磐石的弹性计算!

+关注