文章 2025-10-08 来自:开发者社区

三步构建AI评估体系:从解决“幻觉”到实现高效监控

虽然我们现在面临的是AI时代的到来,但目前来说AI还并不能解决所有问题,例如AI会出现乱编乱造的现象,即AI幻觉。 因此,如何系统化地评估和改进AI应用,已成为行业的新共识,这一技能的重要性已被行业顶尖机构证实。Anthropic和OpenAI的首席产品官均指出,评估正成为产品构建者必须掌握的最重要...

三步构建AI评估体系:从解决“幻觉”到实现高效监控
文章 2025-01-09 来自:开发者社区

谷歌苹果曝出LLM惊人内幕,自主识别错误却装糊涂!AI幻觉背后藏着更大秘密

在人工智能领域,大型语言模型(LLM)的广泛应用带来了显著的便利,但同时也引发了对其“幻觉”现象的担忧。近期,来自谷歌和苹果的研究人员在一篇论文中揭示了LLMs的惊人内幕:这些模型实际上能够自主识别错误,却在生成答案时表现得似乎并不知道正确答案。这一发现引发了对LLMs内部机制和行为模式的深入探讨。...

文章 2024-12-11 来自:开发者社区

EXAONE 3.5:LG 推出的开源 AI 模型,采用 RAG 和多步推理能力降低模型的幻觉问题

❤️ 如果你也关注 AI 的发展现状,且对 AI 应用开发非常感兴趣,我会每日跟你分享最新的 AI 资讯和开源应用,也会不定期分享自己的想法和开源实例,欢迎关注我哦! 微信公众号|搜一搜:蚝油菜花 快速阅读 模型版本:提供 24 亿、78 亿和 320 亿参数的三个版本,适应不同应用场景。 长文本处理:支持长达 32K tokens 的上下文处理,有效降低模型幻觉问题。 多步推理...

EXAONE 3.5:LG 推出的开源 AI 模型,采用 RAG 和多步推理能力降低模型的幻觉问题
文章 2024-10-23 来自:开发者社区

揭秘AI大模型的‘梦幻迷雾’:一场关于真实与虚假的智力较量,你能否穿透幻觉迷雾,窥见真相之光?

大模型幻觉底层逻辑分析 近年来,随着深度学习技术的飞速发展,大型语言模型如GPT系列、BERT等已成为自然语言处理领域的热门话题。这些模型在生成流畅、连贯的文本方面表现出色,但在某些情况下,它们也会生成不准确或虚假的信息,这种现象被称为“大模型幻觉”。为了深入理解大模型幻觉的底层逻辑,本文将从比较与对比的角度出发...

文章 2024-09-11 来自:开发者社区

AI 网关零代码解决 AI 幻觉问题

一、前言 什么是 AI Agent 随着大模型技术的快速发展,越来越多的公司在实际业务中落地了大模型应用。但是人们逐渐发现了大模型能力的不足。例如:由于大模型的训练数据是有限的,因此一些垂直领域的知识,如金融,医疗等等,大模型无法回答,或者容易出现幻觉。并且随着业务的复杂度提高,如何能让大模型像人一样思考,深度的分析解决问题,也对大模型的理解力提出了挑战。 在这...

AI 网关零代码解决 AI 幻觉问题
文章 2024-08-20 来自:开发者社区

AI 网关零代码解决 AI 幻觉问题

1. 前言 1.1 什么是 AI Agent 随着大模型技术的快速发展,越来越多的公司在实际业务中落地了大模型应用。但是人们逐渐发现了大模型能力的不足。例如:由于大模型的训练数据是有限的,因此一些垂直领域的知识,如金融,医疗等等,大模型无法回答,或者容易出现幻觉。并且随着业务的复杂度提高,如何能让大模型像人一样思考,深度的分析解决问题,也对大模型的理解力提出了挑战。 ...

AI 网关零代码解决 AI 幻觉问题
文章 2024-08-17 来自:开发者社区

AI大模型企业应用实战-“消灭”LLM幻觉的利器 - RAG介绍

大模型一定程度改变了我们生活工作的思考方式,越来越多的个人和企业在思考如何将大模型应用到更加实际的生产生活。 1 LLM的问题 1.1 幻觉 LLM因为是一个预训练模型,它已有一些知识储备,我们提的问题跟他的知识储备不相符时,会产生一些幻觉问题,看上去正确的回答。 1.2 新鲜度 LLM预训练出来之后,不能感知到我们实时更新的工业数据,还有企业内部的一些私域数据。 1.3 数据安全 ...

AI大模型企业应用实战-“消灭”LLM幻觉的利器 - RAG介绍
文章 2024-04-14 来自:开发者社区

揭秘AI幻觉:GPT-4V存在视觉编码漏洞,清华联合NUS提出LLaVA-UHD

在人工智能领域,大型多模态模型(LMMs)的视觉编码策略一直是提升其视觉理解能力的关键。然而,现有的LMMs在处理图像时通常存在固定大小和分辨率的限制,这在处理现实世界中多样化比例和高分辨率图像时显得力不从心。近期,清华大学与新加坡国立大学的研究团队发现了GPT-4V等模型在视觉编码上的问题,并提出了一种全新的模型LLaVA-UHD,旨在有效解决这些问题。 GPT-4V作为目前公认的强大LMM.....

揭秘AI幻觉:GPT-4V存在视觉编码漏洞,清华联合NUS提出LLaVA-UHD

本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。

产品推荐

{"cardStyle":"productCardStyle","productCode":"aliyun","productCardInfo":{"productTitle":"阿里云 AI","productDescription":"从 AI 应用构建,模型部署到训练,一站式了解阿里云经典的 AI 应用场景和解决方案。","productContentLink":"https://www.aliyun.com/solution/tech-solution/ai","isDisplayProductIcon":true,"productButton1":{"productButtonText":"查看详情","productButtonLink":"https://www.aliyun.com/solution/tech-solution/ai"},"productButton2":{"productButtonText":"联系 AI 专家","productButtonLink":"https://page.aliyun.com/form/act933288178/index.htm?spm=5176.29311086.J_RY_4Q8--sru4dMV7o3lqS.2.22ec5297YL7w86"},"productButton3":{"productButtonText":"立即体验","productButtonLink":"https://bailian.console.aliyun.com/?spm=5176.28326591.0.0.56136ee1bpor89#/efm/model_experience_center"},"productPromotionInfoBlock":[{"$id":"0","productPromotionGroupingTitle":"热门体验","productPromotionInfoFirstText":"文生文应用","productPromotionInfoFirstLink":"https://bailian.console.aliyun.com/?spm=5176.29311086.J__xR9sQs7AmaTHLBTgN3VS.1.22ec52978mJi5p#/home","productPromotionInfoSecondText":"文生图应用","productPromotionInfoSecondLink":"https://bailian.console.aliyun.com/?spm=5176.29311086.J__xR9sQs7AmaTHLBTgN3VS.2.22ec52978mJi5p#/efm/model_experience_center?modelId=wanx-v1"},{"$id":"1","productPromotionGroupingTitle":"热门产品","productPromotionInfoFirstText":"大模型服务平台百炼","productPromotionInfoFirstLink":"https://www.aliyun.com/product/bailian","productPromotionInfoSecondText":"人工智能平台 PAI","productPromotionInfoSecondLink":"https://www.aliyun.com/product/bigdata/learn"},{"$id":"2","productPromotionGroupingTitle":"技术解决方案","productPromotionInfoFirstText":"向量检索与通义千问搭建专属问答服务","productPromotionInfoFirstLink":"https://www.aliyun.com/solution/tech-solution/dashvector","productPromotionInfoSecondText":"创意加速器:AI 绘画创作","productPromotionInfoSecondLink":"https://www.aliyun.com/solution/tech-solution/tongyi-wanxiang"},{"$id":"3","productPromotionGroupingTitle":"热门模型","productPromotionInfoFirstText":"通义千问","productPromotionInfoFirstLink":"https://tongyi.aliyun.com","productPromotionInfoSecondText":"通义万相","productPromotionInfoSecondLink":"https://tongyi.aliyun.com/wanxiang"}],"isOfficialLogo":false},"activityCardInfo":{"activityTitle":"","activityDescription":"","cardContentBackgroundMode":"LightMode","activityContentBackgroundImageLink":"","activityCardBottomInfoSelect":"activityPromotionInfoBlock","activityPromotionInfoBlock":[]}}

阿里云机器学习平台PAI

阿里云机器学习PAI(Platform of Artificial Intelligence)面向企业及开发者,提供轻量化、高性价比的云原生机器学习平台,涵盖PAI-iTAG智能标注平台、PAI-Designer(原Studio)可视化建模平台、PAI-DSW云原生交互式建模平台、PAI-DLC云原生AI基础平台、PAI-EAS云原生弹性推理服务平台,支持千亿特征、万亿样本规模加速训练,百余落地场景,全面提升工程效率。

+关注