文章 2025-01-20 来自:开发者社区

NeurIPS 2024:自我纠错如何使OpenAI o1推理能力大大加强?北大、MIT团队给出理论解释

在人工智能领域,特别是大型语言模型(LLMs)的研究中,自我纠错能力正逐渐成为一个备受关注的话题。这种能力指的是模型在没有人类干预的情况下,能够通过自我检查和纠正来提高其性能。近期,来自北京大学和麻省理工学院(MIT)的团队在NeurIPS 2024上发表了一项研究,为我...

文章 2023-08-07 来自:开发者社区

四年、投入20%计算资源,OpenAI成立专门团队构建解决对齐问题的超强AI

OpenAI:人类管不了未来的 AI,我们要构建一个监督模型对齐的新 AI。随着 ChatGPT、GPT-4、LLaMA 等生成式大模型的爆火,生成式 AI 技术成为一个值得关注和思考的重要话题。一方面,生成式 AI 能够大幅提升生产效率;另一方面,人们也看到了生成式 AI 技术背后隐藏的风险。今年上半年,机器学习领域的专家、学者已经多次联合发表公开信,呼吁人们重视生成式 AI 的潜在风险,并限....

四年、投入20%计算资源,OpenAI成立专门团队构建解决对齐问题的超强AI
文章 2023-07-29 来自:开发者社区

OpenAI再建顶级团队,重金招聘核心岗成员,阻止超级AI的威胁!

“AI确实可能会杀死人类。”这并不是哪家自媒体为博人眼球而发表的谣言,而是ChatGPT之父、OpenAI CEO山姆·奥尔特曼在今年3月与MIT研究科学家Lex Fridman对话时亲口所说的一句话。如今,这位全世界最受瞩目的老板决定采取行动,以阻止自己的预言发生——OpenAI通过7月5日发表于官网的博客表示,公司正在组建一个顶级AI团队,计划于四年内解决超级AI的核心技术挑战并实现对超级A....

OpenAI再建顶级团队,重金招聘核心岗成员,阻止超级AI的威胁!
文章 2018-06-26 来自:开发者社区

【攻克Dota2】OpenAI自学习多智能体5v5团队战击败人类玩家

刚刚,OpenAI 宣布了一个大新闻——还记得去年他们的AI在 Dota2 1v1 比赛中战胜了人类职业玩家 Dendi吗?现在,OpenAI的由5个神经网络组成的OpenAI Five,已经开始击败Dota 2的业余玩家队伍。 4月23日,OpenAI Five首次击败了脚本基线。5月15日,OpenAI Five与第一队平分秋色,赢得了一场比赛并输掉了另一场。6月6日,OpenAI Five....

文章 2018-06-25 来自:开发者社区

OpenAI首届迁移学习竞赛,南大阿里团队夺冠,中科院第二

OpenAI举办的首届迁移学习竞赛Retro Contest结束,在全部229支队伍里,来自中国的团队获得了冠亚军。冠军是一个6人团队,其中有南京大学和阿里巴巴搜索事业部的研究人员;亚军是中科院的两名研究生。 这个竞赛的目标,是评估强化学习算法从以往的经验中泛化的能力。具体说,就是让AI玩视频游戏《刺猬索尼克》,这是世嘉公司开发的一款竞速式2D动作游戏,其基本上模拟马里奥的游戏方式,玩家在尽可能....

文章 2017-09-04 来自:开发者社区

OpenAI及DeepMind两团队令未来的AI机器更安全

OpenAI和DeepMind的研究人员使用的新算法从人类反馈中学习,他们希望这样做能使人工智能更安全。 两家公司均为强化学习的专家,强化学习是机器学习的一个领域,其基本思想是,如果代理在特定的环境里采取正确的行动完成了任务就给予奖励。该目标是通过一种算法来指定的,代理经过程序后就会追逐奖励,例如游戏中的获胜点。 强化学习在训练机器如何玩如Doom或Pong等游戏或通过模拟驾驶自主驾驶汽车等案例....

OpenAI及DeepMind两团队令未来的AI机器更安全

本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。