文章 2025-03-14 来自:开发者社区

AI 世界生存手册(二):从LR到DeepSeek,模型慢慢变大了,也变强了

预训练模型:我变大了也变强了 ELMo 咱们之前聊过的 Word2Vec 其实就是一个预训练模型,它通过大量的文本数据来学习每个词的向量表示。不过它有个挺明显的缺点:它只关注词和它附近词的关系,完全没考虑词的顺序。正因为没考虑顺序,每个词只能学到一个固定的向量,没法区分一词多义的情况。也就是说,如果一个词有多个意思,Word2Vec 只能学到它最常见的那个意思,其他的意思就被忽略...

AI 世界生存手册(二):从LR到DeepSeek,模型慢慢变大了,也变强了
文章 2025-03-06 来自:开发者社区

AI 世界生存手册(一):从LR到DeepSeek,模型慢慢变大了,也变强了

大部分人都已经清楚什么是大模型(what),怎么用大模型(how),本文将尝试解答为什么是大模型(why)?大家都可以通过写 prompt 来和大模型对话,那大模型之前的算法是怎样的,算法世界经过了哪些比较关键的发展,最后为什么是大模型这条路线走向了 AGI,我会用两篇文章共5.7万字详细探索一下。 剧透一下本文的知识图谱如下:  ...

AI 世界生存手册(一):从LR到DeepSeek,模型慢慢变大了,也变强了

本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。

产品推荐

{"cardStyle":"activityCardStyle","productCardInfo":{"productTitle":"","productDescription":"","productContentLink":"","isDisplayProductIcon":true,"isOfficialLogo":false},"activityCardInfo":{"activityTitle":"AI 编码","activityDescription":"百万 Qwen-coder 大模型 tokens 免费体验,灵码79元起,加速 AI 应用落地 ","cardContentBackgroundMode":"LightMode","activityContentBackgroundImageLink":"","activityCardBottomInfoSelect":"activityPromotionInfoBlock","activityButton1":{"activityButtonText":"查看详情","activityButtonLink":"https://www.aliyun.com/benefit/scene/coding"},"activityButton2":{"activityButtonText":"立即体验","activityButtonLink":"https://bailian.console.aliyun.com/?spm=5176.30202035.J_VanPN1KXIVRyCVhZMwQ6t.6.1b791e71pokqL0&tab=model#/efm/model_experience_center/text?currentTab=textChat&modelId=qwen3-coder-plus"},"activityButton3":{"activityButtonText":"立即购买","activityButtonLink":"https://www.aliyun.com/benefit/scene/coding#J_1"}}}
AI 编码
百万 Qwen-coder 大模型 tokens 免费体验,灵码79元起,加速 AI 应用落地

阿里云机器学习平台PAI

阿里云机器学习PAI(Platform of Artificial Intelligence)面向企业及开发者,提供轻量化、高性价比的云原生机器学习平台,涵盖PAI-iTAG智能标注平台、PAI-Designer(原Studio)可视化建模平台、PAI-DSW云原生交互式建模平台、PAI-DLC云原生AI基础平台、PAI-EAS云原生弹性推理服务平台,支持千亿特征、万亿样本规模加速训练,百余落地场景,全面提升工程效率。

+关注