倚天AI优化的相关内容

阿里云文档 2024-11-14

Ray在ACK集群高效部署与优化实践

开源框架Ray支持构建可扩展的人工智能（AI）和Python应用程序，广泛应用于机器学习领域。您可以在ACK集群上快速创建Ray Cluster，与阿里云日志服务SLS、Prometheus监控、Redis等快速集成，增强日志管理、可观测、高可用等能力。同时，Ray autoscaler与ACK autoscaler的弹性功能结合能更充分地发挥云的弹性能力，提高计算资源供给效率和性价比。

阿里云文档 2024-11-08

利用Nsight Systems对AI应用进行性能分析与优化

在深度学习中，一般会使用Nsight Systems和Nsight Compute工具对AI应用进行性能分析与优化。本文演示如何使用Nsight Systems对AI应用进行性能分析与优化。

阿里云文档 2024-10-17

借助TensorRT优化模型推理性能

TensorRT优化模型过程，首先将PyTorch（或TensorFlow）等训练框架训练完成后的模型编译为TensorRT的格式，然后利用TensorRT推理引擎运行这个模型，从而提升这个模型在英伟达GPU上运行的速度，适用于对实时性要求较高的场景。那么该如何借助TensorRT优化模型推理性能呢？本文将演示模型训练编译过程，然后介绍一些TensorRT常用的模型推理性能优化建议。

阿里云文档 2024-08-23

Fluid数据缓存优化策略最佳实践

在计算与存储分离的架构下，使用Fluid数据缓存技术，能够有效解决在Kubernetes集群中访问存储系统数据时容易出现的高延迟及带宽受限问题，从而提升数据处理效率。本文从性能维度、稳定性维度、读写一致性维度介绍如何使用Fluid数据缓存策略。

文章 2024-03-15 来自：开发者社区

倚天产品介绍|倚天性能优化—YCL AI计算库在resnet50上的优化

1. 背景介绍英特尔第四代至强可扩展处理器（代号Sapphire Rapids，简称SPR）上引入了全新的加速引擎AMX（Advanced Matrix Extensions)，通过指令集层面的支持来显著加速深度学习算法中的Tensor计算。AMX针对广泛的硬件和软件优化，进一步增强了前一代矢量神经网络指令VNNI和BF16，推出了AMX_INT8和AMX_...

文章 2024-03-11 来自：开发者社区

倚天使用|倚天性能优化—YCL AI计算库在resnet50上的优化

背景介绍将多核多线程程序从x86架构的CPU迁移到Arm架构的CPU上往往会面临弱内存序问题。这个问题是迁移过程中的重大阻碍，也是很多业务方斟酌是否应该迁移到Arm机器上的一个关注焦点。因此如何正确且高效地解决这个问题意义重大，关乎Arm和倚天的生态建设。有许多团队曾经遇到过此类问题，给业务稳定性带来隐患。倚天团队针对弱内存序问题追本溯源，提供一个可以从根本上能够解...

文章 2023-08-30 来自：开发者社区

解读最佳实践：倚天710 ARM芯片的Python+AI算力优化 | 龙蜥技术

编者按：在刚刚结束的 PyCon China 2022 大会上，龙蜥社区开发者朱宏林分享了主题为《ARM 芯片的 Python+AI 算力优化》的技术演讲。本次演讲，作者将向大家介绍他们在倚天 710 ARM 芯片上开展的 Python+AI 优化工作，以及在 ARM 云平台上部署 Python+AI 任务的最佳实践。以下为本次演讲内容：（图/朱宏林现场演讲）我们的场景是 ARM 平台的和 AI....

文章 2022-11-15 来自：开发者社区

技术解读倚天 ECS 实例——Arm 芯片的 Python-AI 算力优化 | 龙蜥技术

深度学习技术在图像识别、搜索推荐等领域得到了广泛应用。近年来各大 CPU 厂商也逐渐把 AI 算力纳入了重点发展方向，通过《Arm 芯片 Python-AI 算力优化》我们将看到龙蜥社区 Arm 架构 SIG（Special Interest Group）利用最新的 Arm 指令集优化 Python-AI 推理 workload 的性能。倚天ECS实例的AI推理软件优化阿里云推出的....

共有10条

< 1 >

跳转至： GO

更新时间 2024-07-26 20:48:58

本页面内关键词为智能算法引擎基于机器学习所生成，如有任何问题，可在页面下方点击"联系我们"与我们沟通。

AI优化相关内容

AI您可能感兴趣

产品推荐

{"cardStyle":"productCardStyle","productCode":"aliyun","productCardInfo":{"productTitle":"阿里云 AI","productDescription":"从 AI 应用构建，模型部署到训练，一站式了解阿里云经典的 AI 应用场景和解决方案。","productContentLink":"https://www.aliyun.com/solution/tech-solution/ai","isDisplayProductIcon":true,"productButton1":{"productButtonText":"查看详情","productButtonLink":"https://www.aliyun.com/solution/tech-solution/ai"},"productButton2":{"productButtonText":"联系 AI 专家","productButtonLink":"https://page.aliyun.com/form/act933288178/index.htm?spm=5176.29311086.J_RY_4Q8--sru4dMV7o3lqS.2.22ec5297YL7w86"},"productButton3":{"productButtonText":"立即体验","productButtonLink":"https://bailian.console.aliyun.com/?spm=5176.28326591.0.0.56136ee1bpor89#/efm/model_experience_center"},"productPromotionInfoBlock":[{"$id":"0","productPromotionGroupingTitle":"热门体验","productPromotionInfoFirstText":"文生文应用","productPromotionInfoFirstLink":"https://bailian.console.aliyun.com/?spm=5176.29311086.J__xR9sQs7AmaTHLBTgN3VS.1.22ec52978mJi5p#/home","productPromotionInfoSecondText":"文生图应用","productPromotionInfoSecondLink":"https://bailian.console.aliyun.com/?spm=5176.29311086.J__xR9sQs7AmaTHLBTgN3VS.2.22ec52978mJi5p#/efm/model_experience_center?modelId=wanx-v1"},{"$id":"1","productPromotionGroupingTitle":"热门产品","productPromotionInfoFirstText":"大模型服务平台百炼","productPromotionInfoFirstLink":"https://www.aliyun.com/product/bailian","productPromotionInfoSecondText":"人工智能平台 PAI","productPromotionInfoSecondLink":"https://www.aliyun.com/product/bigdata/learn"},{"$id":"2","productPromotionGroupingTitle":"技术解决方案","productPromotionInfoFirstText":"向量检索与通义千问搭建专属问答服务","productPromotionInfoFirstLink":"https://www.aliyun.com/solution/tech-solution/dashvector","productPromotionInfoSecondText":"创意加速器：AI 绘画创作","productPromotionInfoSecondLink":"https://www.aliyun.com/solution/tech-solution/tongyi-wanxiang"},{"$id":"3","productPromotionGroupingTitle":"热门模型","productPromotionInfoFirstText":"通义千问","productPromotionInfoFirstLink":"https://tongyi.aliyun.com","productPromotionInfoSecondText":"通义万相","productPromotionInfoSecondLink":"https://tongyi.aliyun.com/wanxiang"}],"isOfficialLogo":false},"activityCardInfo":{"activityTitle":"","activityDescription":"","cardContentBackgroundMode":"LightMode","activityContentBackgroundImageLink":"","activityCardBottomInfoSelect":"activityPromotionInfoBlock","activityPromotionInfoBlock":[]}}

阿里云 AI

从 AI 应用构建，模型部署到训练，一站式了解阿里云经典的 AI 应用场景和解决方案。

热门体验

文生文应用文生图应用

热门产品

大模型服务平台百炼人工智能平台 PAI

技术解决方案

向量检索与通义千问搭建专属问答服务创意加速器：AI 绘画创作

热门模型

通义千问通义万相

人工智能平台PAI

人工智能平台 PAI（Platform for AI，原机器学习平台PAI）是面向开发者和企业的机器学习/深度学习工程平台，提供包含数据标注、模型构建、模型训练、模型部署、推理优化在内的AI开发全链路服务，内置140+种优化算法，具备丰富的行业场景插件，为用户提供低门槛、高性能的云原生AI工程化能力。

+关注