OpenAI重拾规则系统,用AI版机器人定律守护大模型安全
在人工智能的浩瀚星空中,大语言模型(LLM)如同一颗耀眼的明星,其强大的语言理解和生成能力为我们带来了前所未有的便利。然而,随着这些模型变得越来越强大,如何确保它们的安全性和可靠性,使其符合人类的价值观和道德准则,成为了一项紧迫的挑战。 最近,来自OpenAI的研究人员提...
利用PyTorch Profiler实现大模型的性能分析和故障排查
本文介绍PyTorch Profiler结合TensorBoard分析模型性能,分别从数据加载、数据传输、GPU计算、模型编译等优化思路去提升模型训练的性能。最后总结了一些会导致CPU和GPU同步的常见的PyTorch API,在使用这些API时需要考虑是否会带来性能影响。
Gandalf AI 通关详解(大模型安全)
前言 Web LLM 各组织都在急于集成大型语言模型 (LLM),以改善其在线客户体验。这使他们面临 Web LLM 攻击,这些攻击利用模型对无法直接访问的数据、API 或用户信息的访问权限。例如,可能: 检索 LLM 有权访问的数据。此类数据的常见来源包括 LLM 的提示、训练集以及提供给模型的 API。 通过 API 触发有害操作。例如,攻击者...

【AI大模型应用开发】1.3 Prompt攻防(安全) 和 Prompt逆向工程
随着GPT和Prompt工程的大火,随之而来的是隐私问题和安全问题。尤其是最近GPTs刚刚开放,藏在GPTs后面的提示词就被网友们扒了出来,甚至直接被人作为开源项目发布,一点安全和隐私都没有,原作者的收益也必然受到极大损失… 到目前为止,大语言模型的防御也没有一个比较完美的解决方式。 本文就来看看Prompt防攻击、防泄漏的手段,以及Prompt逆向工程可以做什么,怎么做。 ...

本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。
AI大模型相关内容
AI更多大模型相关
产品推荐
人工智能平台PAI
人工智能平台 PAI(Platform for AI,原机器学习平台PAI)是面向开发者和企业的机器学习/深度学习工程平台,提供包含数据标注、模型构建、模型训练、模型部署、推理优化在内的AI开发全链路服务,内置140+种优化算法,具备丰富的行业场景插件,为用户提供低门槛、高性能的云原生AI工程化能力。
+关注