阿里云文档 2024-12-27

使用DeepGPU-LLM镜像构建模型的推理环境

在GPU实例上配置DeepGPU-LLM容器镜像后,可以帮助您快速构建大语言模型(例如Llama模型、ChatGLM模型、百川Baichuan模型或通义千问Qwen模型)的推理环境,主要应用在智能对话系统、文本分析、编程辅助等自然语言处理业务场景,您无需深入了解底层的硬件优化细节,镜像拉取完成后,无需额外配置即可开箱即用。本文为您介绍如何在GPU实例上使用DeepGPU-LLM容器镜像构建大语言模...

阿里云文档 2024-12-27

使用vLLM镜像快速构建模型的推理环境

在GPU的实例上部署vLLM镜像后,可以帮助您快速且方便地构建大语言模型(例如Llama模型、ChatGLM模型、百川Baichuan模型或通义千问Qwen模型)的推理环境,主要应用在智能对话系统、文本分类或分析等自然语言处理业务场景,您无需深入了解底层硬件,也无需额外配置即可开箱即用。本文为您介绍如何在GPU实例上使用vLLM容器镜像来快速构建大语言模型的推理服务。

阿里云文档 2024-12-27

使用TensorRT-LLM构建模型的推理环境

在GPU的实例上安装推理引擎TensorRT-LLM,可以帮助您快速且方便地构建大语言模型(例如Llama模型、ChatGLM模型、百川Baichuan模型或通义千问Qwen模型)的推理环境,主要应用在智能对话系统、文本分析等自然语言处理业务场景。本文为您介绍如何在GPU实例上安装和使用TensorRT-LLM来快速构建大语言模型的高性能推理优化功能。

阿里云文档 2024-11-25

使用阿里云c8i实例部署Qwen-7B-Chat进行AI对话

本文以搭建AI对话机器人为例,介绍如何使用基于英特尔CPU的c8i实例,基于xFasterTransformer框架部署Qwen-7B-Chat语言模型。

阿里云文档 2024-09-20

使用第八代Intel实例部署Llama-2-7B模型

本文以搭建大语言模型服务,介绍使用阿里云第八代Intel实例,基于xFasterTransformer单机部署Llama-2-7B语言模型。

文章 2024-05-19 来自:开发者社区

ECS的安全责任共担模型

云上安全的重要性 随着互联网的快速发展,在过去几十年,我国持续不断地完善并推出了两百多部网络与数据安全相关的法律法规,包括网络安全治理的国家基本法《网络安全法》、数据安全的国家基本法《数据安全法》等,对企业的业务安全和数据安全都提出了严格的要求与规范。同时,随着云计算应用的日益普及,客户不再仅仅考虑如何上云,而更关注如何在云上持续安全地进行业务运营,既保障自身业务本身的安全性,又保障业务...

文章 2023-09-06 来自:开发者社区

弹性计算Clouder认证:ECS基础运维管理—课时2:云上安全责任共担模型是什么?

云上安全责任共担模型思考:小云在想,“在云服务器ECS的使用过程中,哪些是我需要承担安全维护责任,哪些是阿里云需要承担的安全维护责任?”对于传统自建物理服务器模式,用户需要承担所有的安全责任,负责从物理基础设施到上层应用的所有层面的安全体系构建。不同的是,云上的安全性是一种责任共担模式,其中云服务器ECS的安全责任需要小云(用户)与阿里云(云服务提供商)双方一起承担。双方的责任内容和边界如下:阿....

弹性计算Clouder认证:ECS基础运维管理—课时2:云上安全责任共担模型是什么?

本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。

产品推荐

云服务器ECS

云服务器ECS是一种安全可靠、弹性可伸缩的IaaS级云计算服务。在这里你可以获取最新的ECS产品资讯、最前沿的技术交流以及优惠活动等信息,加速自己的技术成长。

+关注