MNN-LLM App:在手机上离线运行大模型,阿里巴巴开源基于 MNN-LLM 框架开发的手机 AI 助手应用
❤️ 如果你也关注 AI 的发展现状,且对 AI 应用开发非常感兴趣,我会每日分享大模型与 AI 领域的最新开源项目和应用,提供运行实例和实用教程,帮助你快速上手AI技术! 微信公众号|搜一搜:蚝油菜花 大家好,我是蚝油菜花,今天跟大家分享一下 MNN-LLM App 这个基于 MNN-LLM 框架开发的手机 AI 助手应用。在此之前,如果你想了解什么是 MNN,可以阅读《MNN:阿里开源...

鬼手操控着你的手机?大模型GUI智能体易遭受环境劫持
近年来,随着人工智能技术的飞速发展,多模态大语言模型(MLLM)在图形用户界面(GUI)环境中的应用越来越广泛。这些智能体能够通过多种感官与用户进行交互,提供更丰富、更准确的信息和服务。然而,最近一篇名为《环境警示:多模态智能体易受环境干扰》的论文却揭示了一个令人担忧的问...
慧鲤携手联发科技亮相MWC,端侧LoRA融合技术助力手机大模型技能扩充
近日,在2024世界移动通信大会(MWC 2024)期间,慧鲤科技与联发科技再次联袂推出生成式AI在端侧的创新应用。基于联发科技天玑 9300 集成的新一代 AI 处理器和慧鲤科技LoRA 融合的技术整合,用户在端侧设备上录制影像时,可以实时生成不同动画风格的视频。这也是业内首个基于LoRA融合技术在端侧实时生成视频的应用,为端侧生成式AI落地进一步刷新了应用边界。 ...

安卓手机上跑15亿参数大模型,12秒不到就推理完了
生成式 AI 上端侧,要用真正的技术。早晚会有这一天,但它还是比想象来得早了一些:大模型在手机上运行的预言被实现了。上个月的计算机视觉学术顶会 CVPR 上,生成式 AI 成了重要方向,高通会议中展示了一把未来有望成为「主流」的 AI 应用:用手机跑大模型 AI 画图。CVPR 是 AI 领域最负盛名的重要会议,我们曾在其中见证过人工智能的几次重要突破,今年在获奖和入围的论文中,既有通用大模型,....

陈天奇官宣新APP,让手机原生跑大模型,应用商店直接下载使用
IPhone、iPad 均可体验。前段时间,TVM、MXNET、XGBoost 作者,CMU 助理教授,OctoML CTO 陈天奇等多位研究者共同开发的一个项目引爆了 AI 界。这个项目名叫 MLC-LLM,能让你「在任何设备上编译运行大语言模型」,包括移动端(例如 iPhone)、消费级电脑端(例如 Mac)和 Web 浏览器。运行效果如下:MLC-LLM 推出不到两天,GitHub 的 S....

本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。