利用Nsight Systems对AI应用进行性能分析与优化
在深度学习中,一般会使用Nsight Systems和Nsight Compute工具对AI应用进行性能分析与优化。本文演示如何使用Nsight Systems对AI应用进行性能分析与优化。
基于英特尔平台加速 AI 应用及 LLM 推理性能介绍|龙蜥大讲堂第115期
基于英特尔平台加速 AI 应用及 LLM 推理性能介绍|龙蜥大讲堂第115期 内容介绍 1. 第五代英特尔至强处理器 2. LLM 推理加速框架 xFast Transformer 及其优化策略 3. 性能数据及 Demo 展示 ...

基于RDS PostgreSQL与Dify平台构建AI应用
Dify是一款开源的大语言模型(LLM)应用开发平台。它将后端即服务(Backend as Service)与LLMOps理念相结合,使开发者能够迅速构建生产级的生成式AI应用。本文将介绍如何基于RDS PostgreSQL与Dify平台构建智能问答应用。
如何将 Copilot 应用集成进 Native 应用中
方案概览在 Native 应用中引入一个 AI 助手,只需 3 步:创建百炼问答应用:利用百炼平台快速创建自己的大模型应用,支持自定义知识库。创建百炼问答应用:创建魔笔 Copilot 应用:逐步搭建 Copilot 应用或通过应用模板快速创建 Copilot 应用。创建魔笔 Copilot 应用:...
英特尔助力龙蜥加速 AI 应用及 LLM 性能
操作系统的发展离不开南北向软硬件生态的扩展和支持,龙蜥社区也离不开各合作伙伴的共创。在 2023 龙蜥操作系统大会全面拥抱智算时代分论坛上,英特尔 AI 软件工程师王华强从两方面分享了英特尔至强处理器平台上的两个重点算力和内存带宽,以及英特尔 xFasterTransformer 开源项目(主要用于 CPU 平台)、xFT 开发软件图、软件架构和特点以及基于 xFT 平台大语言模型对比公开的性能....

本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。
AI更多应用相关
产品推荐
人工智能平台PAI
人工智能平台 PAI(Platform for AI,原机器学习平台PAI)是面向开发者和企业的机器学习/深度学习工程平台,提供包含数据标注、模型构建、模型训练、模型部署、推理优化在内的AI开发全链路服务,内置140+种优化算法,具备丰富的行业场景插件,为用户提供低门槛、高性能的云原生AI工程化能力。
+关注