PINN训练新思路：把初始条件和边界约束嵌入网络架构，解决多目标优化难题
PINNs出了名的难训练。主要原因之一就是这个多目标优化问题。优化器很容易找到投机取巧的路径——比如拼命降低微分方程残差，但完全不管初始条件和边界约束。只要给初始条件和边界损失配的权重够低，它们增加的那点损失完全能被残差损失的大幅下降抵消掉。调整权重也许能暂时缓解这个问题，但谁也不能保证最优权重在整个训练过程中一直有效。 标准的PINN用复合损失函数，把三项加权求和： 初始条件损失 边界损...
融合AMD与NVIDIA GPU集群的MLOps：异构计算环境中的分布式训练架构实践
在深度学习的背景下，NVIDIA的CUDA与AMD的ROCm框架缺乏有效的互操作性，导致基础设施资源利用率显著降低。随着模型规模不断扩大而预算约束日益严格，2-3年更换一次GPU的传统方式已不具可持续性。但是Pytorch的最近几次的更新可以有效利用异构计算集群，实现对所有可用GPU资源的充分调度，不受制于供应商限制。 本文将深入探讨如何混合AMD/NVIDIA GPU集群以支持PyTorch分....
清华研究登Nature，首创全前向智能光计算训练架构，戴琼海、方璐领衔
近日，清华大学的研究人员在《自然》（Nature）杂志上发表了一项重要研究成果，他们首创了一种全前向智能光计算训练架构，为光学人工智能（AI）的发展开辟了新的道路。 随着机器学习的快速发展，光学人工智能（AI）因其在大带宽和高能效计算方面的潜力而备受关注。然...
150B token从头训练，普林斯顿Meta发布完全可微MoE架构Lory
在人工智能领域，尤其是自然语言处理（NLP）中，大型语言模型的预训练一直是研究的热点。这些模型通过在海量数据上进行训练，能够学习到丰富的语言知识和模式，进而在多种下游任务中展现出卓越的性能。然而，随着模型规模的不断扩大，训练和推理的效率问题逐渐凸显。为了解决这一问题，研究...
Azure - 机器学习：使用自动化机器学习训练计算机视觉模型的数据架构
了解如何设置Azure中 JSONL 文件格式，以便在训练和推理期间在计算机视觉任务的自动化 ML 实验中使用数据。一、用于训练的数据架构Azure 机器学习的图像 AutoML 要求以 JSONL（JSON 行）格式准备输入图像数据。 本部分介绍多类图像分类、多标签图像分类、对象检测和实例分段的输入数据格式或架构。 我们还将提供最终训练或验证 JSON 行文件的示例。图像分类（二进制/多类）每....
英特尔AI CTO：人工智能训练需要新型芯片架构
英特尔人工智能产品集团新上任的首席技术官Amir Khosrowshahi表示，当你使用GPU水平较低的时候，业界需要新架构用于神经网络的理由就愈加明显了。 Khosrowshahi此前是Nervana System公司的共同创始人兼首席技术官，该公司在去年8月被英特尔收购，金额未对外公布。Nervana的技术迅速成为英特尔人工智能计划的核心。 Khosrowshahi详细介绍了Nervana公....
本页面内关键词为智能算法引擎基于机器学习所生成，如有任何问题，可在页面下方点击"联系我们"与我们沟通。
金融级分布式架构
SOFAStack™（Scalable Open Financial Architecture Stack）是一套用于快速构建金融级分布式架构的中间件，也是在金融场景里锤炼出来的最佳实践。
+关注