基于英特尔平台加速 AI 应用及 LLM 推理性能介绍|龙蜥大讲堂第115期
基于英特尔平台加速 AI 应用及 LLM 推理性能介绍|龙蜥大讲堂第115期 内容介绍 1. 第五代英特尔至强处理器 2. LLM 推理加速框架 xFast Transformer 及其优化策略 3. 性能数据及 Demo 展示 ...
专访英特尔：开源与 AI 迅猛发展，龙蜥社区提供高效合作平台
编者按：由中国计算机学会开源发展委员会、中关村科学城委员会、海淀区委网信办、中国开源软件推进联盟指导，龙蜥社区主办，阿里云、浪潮信息、Intel、中兴通讯、Arm、中科方德等 24 家理事单位共同承办，主题为“进化·重构·赴未来” 的 2024 龙蜥操作系统大会即将于 8 月 30 日（本周五）在北京举办。近日，CSDN 采访了英特尔技术总监，龙蜥社区副理事长杨继国，深度解读了英特尔对智能时代的....
英特尔助力龙蜥加速 AI 应用及 LLM 性能
操作系统的发展离不开南北向软硬件生态的扩展和支持，龙蜥社区也离不开各合作伙伴的共创。在 2023 龙蜥操作系统大会全面拥抱智算时代分论坛上，英特尔 AI 软件工程师王华强从两方面分享了英特尔至强处理器平台上的两个重点算力和内存带宽，以及英特尔 xFasterTransformer 开源项目（主要用于 CPU 平台）、xFT 开发软件图、软件架构和特点以及基于 xFT 平台大语言模型对比公开的性能....
参数是ChaGPT的近6倍！英特尔公布AI大模型Aurora genAI，具备1万亿参数
据 wccftech 报道，英特尔近日公布了旗下生成式 AI 大模型 Aurora genAI。 据悉，Aurora genAI 参数量高达 1 万亿，其开发依赖于 Megatron 和 DeepSpeed 框架，这些结构增强了模型的强度和容量。而 ChatGPT 模型参数量是 1750 亿，这也意味着，Aurora genAI 的参数量是 ChatGPT 的近 6 倍。 据悉，...
为AI加速而生 英特尔第五代至强CPU带来AI新表现
AI时代，亲民、易用的CPU如何能实现相比GPU更具性价比的加速方案？英特尔® 至强® 可扩展处理器给出答案：内置AI加速引擎，更好地承载人工智能应用工作负载。千呼万唤始出来，第五代英特尔®️ 至强®️ 可扩展处理器，它来了！若是用一句话来概括它的特点，那就是——AI味道越发得浓厚。以训练、推理大模型为例：●与第四代相比，训练性能提升多达29%，推理性能提升高达42%；●与第三代相比，AI训练和....
性价比超H100，英特尔发布中国版Gaudi2 AI加速卡
英特尔会是国内生成式 AI 算力的更优解吗？在大语言模型（LLM）领域，越强大的模型就越需要算力。最近有消息称，当前业界标杆 GPT-4 在训练中使用了约 2.5 万块 A100，训练时长超过 90 天。如此高门槛的生成式 AI 赛道上，各家科技公司的竞争却异常激烈，国内市场甚至出现了 AI 加速卡供不应求的状态。对于 AI 训练的算力，人们一直以来都在依赖 GPU，最近，英特尔面向国内提出了一....
D1net阅闻 | 英特尔推出AI大模型Aurora genAI，参数量是GPT-3的近6倍
英特尔推出AI大模型Aurora genAI，参数量是GPT-3的近6倍英特尔近日公布了旗下生成式AI大模型Aurora genAI，其参数量高达1万亿，是GPT-3的近6倍。Aurora genAI模型是英特尔与阿贡国家实验室和HPE合作开发的一个以科学为中心的生成式AI模型，将被用于各类科学应用。除此外，Aurora genAI还具有在自然语言处理、机器翻译、图像识别、语音识别、金融建模等商....
新至强训练推理增效十倍，英特尔CPU加速AI更上一层楼
人工智能技术改变了我们的生活，而说到 AI 背后的算力，人们经常会先想到 GPU。从 2019 年英特尔为其第二代至强可扩展处理器增添了内置的深度学习加速技术后，原本定位通用计算的 CPU 芯片，也加入了为 AI 加速的行列。今天，代号为「Sapphire Rapids」的第四代至强可扩展处理器也在中国迎来发布首秀，除了一系列微架构的革新和技术规格的升级外，新 CPU 对 AI 运算「更上层楼」....
英特尔推出两款 7nm AI 芯片，内存高达 96GB HBM2e，训练成本更低
当地时间 5 月 10 日，英特尔举办了 2022 英特尔 On 产业创新峰会。在此次峰会上，英特尔公布了其在芯片、软件和服务方面取得的多项进展，并宣布了包括第 12 代英特尔酷睿 HX 处理器家族、阿波罗计划、Greco AI 加速芯片在内的一系列重大发布。英特尔 CEO 帕特·基辛格在峰会上表示：“全球市场正处于最具活力的时代。企业目前面临的挑战错综复杂且相互关联，而成功的关键取决于企业快速....
技术解读：英特尔 x86 平台上，AI 能力是如何进行演进的？（附PPT）
AI 计算力的指数增长意味着，为了解决越来越复杂的用例，即使是 1000 倍的计算性能增长也很容易被消耗。因此，需要通过软件生态系统的助力，才能达到更好的性能。我们相信，构建 AI 软件生态系统，是将人工智能和数据科学项目推向生产的关键。本文整理自龙蜥大讲堂技术直播第四期，由龙蜥社区AI SIG核心成员、英特尔 AI 软件开发⼯程师黄文欢分享——用技术和实例讲解英特尔 x86 平台 AI 能力演....
本页面内关键词为智能算法引擎基于机器学习所生成，如有任何问题，可在页面下方点击"联系我们"与我们沟通。
产品推荐
阿里云机器学习平台PAI
阿里云机器学习PAI（Platform of Artificial Intelligence）面向企业及开发者，提供轻量化、高性价比的云原生机器学习平台，涵盖PAI-iTAG智能标注平台、PAI-Designer（原Studio）可视化建模平台、PAI-DSW云原生交互式建模平台、PAI-DLC云原生AI基础平台、PAI-EAS云原生弹性推理服务平台，支持千亿特征、万亿样本规模加速训练，百余落地场景，全面提升工程效率。
+关注