文章 2017-09-01 来自:开发者社区

中国人工智能学会通讯——迎接深度学习的“大”挑战(下) 1.1 深度学习的训练方法和技巧

摘要:本部分主要介绍了深度学习的训练方法和技巧、深度学习的挑战和应对方法等问题。 最后结合眼下 AI 的研究进展,对深度学习领域深刻的“吐槽”了一番,妙趣横生且发人深省。 1.1 深度学习的训练方法和技巧 前面提到的 BN 方法还不能解决所有的 问题。 因为即便做了白化,激活函数的导 数的最大值也只有 0.25,如果层数成百上 千,0.25 不断连乘以后,将很快衰减为 0。 所以后来又涌现出一.....

文章 2017-09-01 来自:开发者社区

中国人工智能学会通讯——互联网搜索技术的前沿探索 4 深度学习与信息检索

4 深度学习与信息检索 近年来,深度学习技术在图像、语音、自然语言处理等领域取得了显著的突破,已经开始延伸到信息检索领域。深度学习模型强大的表达能力和学习能力,可以为信息检索中语义信息表征、相关性推理决策,以及复杂交互过程的建模提供良好的支撑。然而,目前已有的结果显示,深度学习应用于检索并不是其他领域深度学习模型的简单移植,而是需要结合信息检索的固有特征、领域知识和独特模式来构建。我们在这个方向....

文章 2017-09-01 来自:开发者社区

中国人工智能学会通讯——深度学习在自然语言处理领域的最新进展

下面我来介绍一下深度学习在自然语言处理(NLP)的最新进展。我主要想针对机器翻译、聊天机器人和阅读理解这三个最活跃的方向来探讨深度学习在NLP领域的发展到了什么水平,还存在什么问题,然后再引申出未来的研究方向。 上图是自然语言处理主要技术的一览图。从左开始,第一列是自然语言的基本技术,包括词汇级、短语级、句子级和篇章级的表示,比如词的多维向量表示(word embedding)、句子的多维向量.....

文章 2017-09-01 来自:开发者社区

中国人工智能学会通讯——自然语言处理的十个发展趋势 趋势 2: 学习模式——从浅层学习到深度学习

趋势 2: 学习模式——从浅层学习到深度学习 浅层到深层的学习模式中,浅层是分步骤走,可能每一步都用了深度学习的方法,实际上各个步骤是串接起来的。直接的深度学习是一步到位的端到端,在这个过程中,我们确实可以看到一些人为贡献的知识,包括该分几层、每层的表示形式、一些规则等,但我们所谓的知识在深度学习里所占的比重确实减小了,主要体现在对深度学习网络结构的调整。

文章 2017-09-01 来自:开发者社区

中国人工智能学会通讯——当知识图谱“遇见”深度学习 1.4 结束语

1.4 结束语 随着深度学习研究的进一步深入,如何 有效利用大量存在的先验知识,进而降低 模型对于大规模标注样本的依赖,逐渐成 为主流的研究方向之一。知识图谱的表示学习为这一方向的探索奠定了必要的基础。 近期出现的将知识融合入深度神经网络模 型的一些开创性工作也颇具启发性;但总 体而言,当前的深度学习模型使用先验知 识的手段仍然十分有限,学术界在这一方 向的探索上仍然面临巨大的挑战。这些挑 战主....

文章 2017-09-01 来自:开发者社区

中国人工智能学会通讯——当知识图谱“遇见”深度学习 1.3 知识图谱作为深度学习的约束

1.3 知识图谱作为深度学习的约束 Hu 等人提出了一种将一阶谓词逻辑融 合进深度神经网络的模型,并将其成功用于解决情感分类和命名实体识别等问题 [7]。 逻辑规则是一种对高阶认知和结构化知识 的灵活表示形式,也是一种典型的知识表 示形式。将各类人们已积累的逻辑规则引 入到深层神经网络中,利用人类意图和领 域知识对神经网络模型进行引导具有十分 重要的意义。其他一些研究工作则尝试将 逻辑规则引入到....

文章 2017-09-01 来自:开发者社区

中国人工智能学会通讯——当知识图谱“遇见”深度学习 1.2 知识图谱作为深度学习的输入

1.2 知识图谱作为深度学习的输入 知识图谱是人工智能符号主义近期进 展的典型代表。知识图谱中的实体、概念 以及关系均采用了离散的、显式的符号化 表示。而这些离散的符号化表示难以直接 应用于基于连续数值表示的神经网络。为 了让神经网络有效利用知识图谱中的符号 化知识,研究人员提出了大量的知识图谱 的表示学习方法。知识图谱的表示学习旨 在习得知识图谱的组成元素 ( 节点与边 ) 的 实值向量化表示....

文章 2017-09-01 来自:开发者社区

中国人工智能学会通讯——当知识图谱“遇见”深度学习 1.1 知识图谱与深度学习融合的历史背景

大数据时代的到来,为人工智能的飞速 发展带来前所未有的数据红利。在大数据的 “喂养”下,人工智能技术获得了前所未有 的长足进步。其进展突出体现在以知识图谱 为代表的知识工程以及深度学习为代表的机 器学习等相关领域。随着深度学习对于大数 据的红利消耗殆尽,深度学习模型效果的天 花板日益迫近。另一方面大量知识图谱不断 涌现,这些蕴含人类大量先验知识的宝库却 尚未被深度学习有效利用。融合知识图谱与 深....

文章 2017-08-30 来自:开发者社区

DeepLearning.ai学习笔记(一)神经网络和深度学习--Week3浅层神经网络

介绍 DeepLearning课程总共五大章节,该系列笔记将按照课程安排进行记录。 另外第一章的前两周的课程在之前的Andrew Ng机器学习课程笔记(博客园)&Andrew Ng机器学习课程笔记(CSDN)系列笔记中都有提到,所以这里不再赘述。 另外本系列课程也设有Jupyter Notebook形式练手项目,具体的可跳转至Coursera深度学习(DeepLearning.ai)课程....

文章 2017-08-08 来自:开发者社区

【深度学习看手相】台湾学生获奖 AI 项目是科学还是伪科学?

AI的颠覆已经蔓延到了“看相界”:从不久前闹得沸沸扬扬的人脸识别定罪犯,到最近的看人脸断贫富,再到今天要介绍的“深度学习看手相”。 近日,台湾大学举办的一场黑客马拉松(黑客松)比赛上。一位名叫Claire Ching Chen的大学生与实习的同事、大学朋友以及brother 联手开发了一个用于看手相的聊天机器人,名叫Handbot,可通过Facebook Messenger调用。 不过,新智...

【深度学习看手相】台湾学生获奖 AI 项目是科学还是伪科学?

本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。

产品推荐

{"cardStyle":"activityCardStyle","productCardInfo":{"productTitle":"","productDescription":"","productContentLink":"","isDisplayProductIcon":true,"isOfficialLogo":false},"activityCardInfo":{"activityTitle":"AI 编码","activityDescription":"百万 Qwen-coder 大模型 tokens 免费体验,通义灵码79元起,加速 AI 应用落地 ","cardContentBackgroundMode":"LightMode","activityContentBackgroundImageLink":"","activityCardBottomInfoSelect":"activityPromotionInfoBlock","activityButton1":{"activityButtonText":"查看详情","activityButtonLink":"https://www.aliyun.com/benefit/scene/coding"},"activityButton2":{"activityButtonText":"立即体验","activityButtonLink":"https://bailian.console.aliyun.com/?spm=5176.30202035.J_VanPN1KXIVRyCVhZMwQ6t.6.1b791e71pokqL0&tab=model#/efm/model_experience_center/text?currentTab=textChat&modelId=qwen3-coder-plus"},"activityButton3":{"activityButtonText":"立即购买","activityButtonLink":"https://www.aliyun.com/benefit/scene/coding#J_1"}}}
AI 编码
百万 Qwen-coder 大模型 tokens 免费体验,通义灵码79元起,加速 AI 应用落地

阿里云机器学习平台PAI

阿里云机器学习PAI(Platform of Artificial Intelligence)面向企业及开发者,提供轻量化、高性价比的云原生机器学习平台,涵盖PAI-iTAG智能标注平台、PAI-Designer(原Studio)可视化建模平台、PAI-DSW云原生交互式建模平台、PAI-DLC云原生AI基础平台、PAI-EAS云原生弹性推理服务平台,支持千亿特征、万亿样本规模加速训练,百余落地场景,全面提升工程效率。

+关注