基于ACK多机分布式部署DeepSeek满血版推理部署实战
本文深入解析基于阿里云容器服务ACK的DeepSeek-R1-671B大模型分布式推理实战方案。针对该千亿参数模型（671B）单卡显存不足的挑战，提出混合并行策略（Pipeline Parallelism=2 + Tensor Parallelism=8），结合阿里云Arena工具，实现在2台ecs.ebmgn8v.48xlarge（8*96GB）节点上的高效分布式部署。进一步演示如何将部署于AC...
管理AI推理模型，创建AI推理模型
在Elasticsearch（简称ES）实例中使用AI推理模型时，需要首先在引擎中创建AI模型。根据模型的来源，可以分为两种操作方式，即内置模型、自部署模型对应的操作方式。您可以参考本文进行操作。
AI做数学学会动脑子！ UCL等发现LLM程序性知识，推理绝不是背答案
在人工智能领域，大型语言模型（LLM）的崛起引发了广泛的关注。这些模型在处理自然语言任务时展现出了惊人的能力，但它们在数学推理方面的表现却一直备受争议。一方面，LLM在解决数学问题时表现出了一定的能力；另一方面，它们在推理过程中的不稳定性也引发了人们对其可靠性的质疑。 然而，来自伦敦大...
AI模型推理服务在Knative中最佳配置实践
Knative和AI结合提供了快速部署、高弹性和低成本的技术优势，适用于需要频繁调整计算资源的AI应用场景，例如模型推理等。您可以通过Knative Pod部署AI模型推理任务，配置自动扩缩容、灵活分配GPU资源等功能，提高AI推理服务能力和GPU资源利用率。
中山大学HCP Lab团队：AI解题新突破，神经网络推开数学推理大门（三）
论文 7：Template-based Contrastive Distillation Pre-training for Math Word Problem SolvingJinghui Qin*, Zhicheng Yang*, Jiaqi Chen, Xiaodan Liang and Liang Lin虽然深度学习模型在数学解题领域取得很好的进展，但是这些模型忽视了蕴涵在问题描述中的求解....
中山大学HCP Lab团队：AI解题新突破，神经网络推开数学推理大门（二）
论文5：LogicSolver: Towards Interpretable Math Word Problem Solving with Logical Prompt-enhanced LearningFindings of the Association for Computational Linguistics: EMNLP 2022论文地址：https://arxiv.org/pdf/2....
中山大学HCP Lab团队：AI解题新突破，神经网络推开数学推理大门（一）
本文对中山大学人机物智能融合实验室（HCP Lab）在数学解题领域的一系列研究进行了简要介绍，这些工作主要由 HCP 实验室秦景辉博士等人完成。该系列工作获得国家科技创新 2030 重大项目 “因果推理与决策理论模型研究” 支持。 人类在成长过程的不同阶段均需要掌握很多的知识点来求解大量的数学题。然而，知识点看懂了不算真的懂，能求解题目才能体现人类的智慧。近年来，神经网络在计算机视觉，模式匹配、....
本页面内关键词为智能算法引擎基于机器学习所生成，如有任何问题，可在页面下方点击"联系我们"与我们沟通。
产品推荐
阿里云机器学习平台PAI
阿里云机器学习PAI（Platform of Artificial Intelligence）面向企业及开发者，提供轻量化、高性价比的云原生机器学习平台，涵盖PAI-iTAG智能标注平台、PAI-Designer（原Studio）可视化建模平台、PAI-DSW云原生交互式建模平台、PAI-DLC云原生AI基础平台、PAI-EAS云原生弹性推理服务平台，支持千亿特征、万亿样本规模加速训练，百余落地场景，全面提升工程效率。
+关注