机器学习之解释性AI与可解释性机器学习
解释性AI与可解释性机器学习: 理解机器学习模型背后的逻辑 随着人工智能技术的广泛应用，机器学习模型越来越多地被用于决策过程。然而，这些模型，尤其是深度学习模型，通常被视为“黑箱”，难以理解其背后的决策逻辑。解释性AI（Explainable AI, XAI）和可解释性机器学习（Interpretable Machine Learning, IML）旨在解决这个问题，使模型的决策过程透明...
首期AI治理与伦理圆桌：大模型的可解释性
AI 伦理与治理是与 AI 技术、工程同等重要但讨论不多的议题。随着近年来大模型的不断涌现，AI 应用和产品纷纷落地。随之而来，人们对 AI 伦理与治理的关注度日益增加，比如 AI 向善、隐私保护、负责任 AI、AI 系统可信可控。近几个月，ChatGPT 的出现让 AI 伦理与治理研究被提上更紧迫的日程。其实针对 AI 发展过程中产生的伦理与治理问题，一直都有组织跟进研究并着力提出相应的解决方....
腾讯AI Lab联合ETH提出合作博弈新范式，为可解释性等机器学习估值问题提供新方法（2）
五、实验结果在实验过程中，我们试图理解以下两点：1）与其他估值方法相比，提出的变分估值方法是否具有更低的解耦误差？2)与经典估值标准相比，我们提出的变分指数能否获得好处？1. 数据估值实验我们按照 Ghorbani & Zou (2019)的设置，复用 https://github.com/amiratag/DataShapley 的代码。我们进行数据去除：根据不同标准返回的估值对训练样....
腾讯AI Lab联合ETH提出合作博弈新范式，为可解释性等机器学习估值问题提供新方法
腾讯 AI Lab 与瑞士苏黎世联邦理工合作提出基于能量学习的合作博弈新范式，为可解释性等机器学习中的估值问题提供新理论新方法，论文已被 ICLR 2022 接收。近年来，估值问题在机器学习中变得日益重要。一些典型的估值问题包括用于可解释性的特征归因(feature attribution)，用于合作学习的数据估值(data valuation)，以及用于集成学习的模型估值(model valu....
如何解释AI做出的决策？一文梳理算法应用场景和可解释性（2）
2.1 方法介绍令ε={P1,...,Pn}表征 n 个病人的数据库。Pj 表征 K 个病人就诊数据记录，Pj = {x_1, . . , x_k}，其中，x_k 发生在时间点 t_k，包含一组描述该次诊疗的医疗变量，考虑到第 j 个病人在时间点 t-1 的病史数据 Pj={x_1, . . . , x_t-1}，我们的任务是预测时间点 t 的 ADE 的发生，并准确地解释为什么使用病人病史的整....
如何解释AI做出的决策？一文梳理算法应用场景和可解释性（1）
本文结合《Explanation decisions made with AI》指南，重点对算法的应用场景和可解释性分析进行了梳理总结。英国的 Information Commissioner’s Office （ICO）和 The Alan-Turing Institute 联合发布了《Explanation decisions made with AI》指南。该指南旨在为机构和组织提供实用建....
打开AI的黑盒子：模型可解释性的现状、应用前景与挑战
云栖号资讯：【点击查看更多行业资讯】在这里您可以找到不同行业的第一手的上云资讯，还在等什么，快来！ 机器学习模型可解释性方面的研究，在近两年的科研会议上成为一个相当热门的话题。随着机器学习应用越来越广泛，大家不再仅仅满足于模型的效果，而是希望对模型效果背后的原因有更好的理解。同时，在工业界落地 AI 时，构建能让用户理解的模型也变得越来越重要，在医疗、金融和司法等高风险应用中，这一点尤其明显。.....
AI算法透明不是必须，黑箱和可解释性可简化为优化问题
AI算法对人类生活的影响越来越大，但它们内部的运作往往是不透明的，人们对这种技术的工作方式也愈加感到担忧。MIT科技评论曾经发表一篇题为“人工智能中的黑暗秘密”的文章，警告说：“没有人真正知道先进的机器学习算法是怎样工作的，而这恐将成为一大隐忧。”由于这种不确定性和缺乏问责制，纽约大学AI Now Institute的一份报告建议负责刑事司法、医疗保健、社会福利和教育的公共机构不应该使用AI技术....
时代聚焦AI安全——可解释性
今年的NIPS多集中在人工智能安全上，此外精彩的部分还有凯特·克劳福德关于人工智能公平性问题上被忽视的主题演讲、ML安全研讨会、以及关于“我们是否需要可解释性？”可解释ML讨论会辩论。 值校准文件 逆向奖励设计是为了解决RL代理根据人类设计的代理奖励函数推断出人类的真实奖励函数的一种设计。与反强化学习（IRL）不同，它可以让代理人从人的行为推断出奖励函数。论文中提出了一个IRD方法，假设...
本页面内关键词为智能算法引擎基于机器学习所生成，如有任何问题，可在页面下方点击"联系我们"与我们沟通。
产品推荐
阿里云机器学习平台PAI
阿里云机器学习PAI（Platform of Artificial Intelligence）面向企业及开发者，提供轻量化、高性价比的云原生机器学习平台，涵盖PAI-iTAG智能标注平台、PAI-Designer（原Studio）可视化建模平台、PAI-DSW云原生交互式建模平台、PAI-DLC云原生AI基础平台、PAI-EAS云原生弹性推理服务平台，支持千亿特征、万亿样本规模加速训练，百余落地场景，全面提升工程效率。
+关注