LLM安全新威胁：为什么几百个毒样本就能破坏整个模型
数据投毒，也叫模型投毒或训练数据后门攻击，本质上是在LLM的训练、微调或检索阶段偷偷塞入精心构造的恶意数据。一旦模型遇到特定的触发词，就会表现出各种异常行为——输出乱码、泄露训练数据、甚至直接绕过安全限制。 这跟提示注入完全是两码事。提示注入发生在推理阶段，属于临时性攻击；而投毒直接改写了模型的权重，把恶意行为永久刻进了模型里。 几种主流的攻击方式 预训练投毒最隐蔽，攻击者把恶意文档混进海量的预....
06_LLM安全与伦理：部署大模型的防护指南
1. 引言：LLM安全与伦理的重要性 随着大型语言模型(LLM)在各行业的广泛应用，其安全风险和伦理问题日益凸显。2025年，全球LLM市场规模已超过6400亿美元，年复合增长率达30.4%，但与之相伴的是安全威胁的复杂化和伦理挑战的多元化4。 OWASP在2025年更新的LLM应用安全风险Top 10中，新增了...
Ollama漏洞引发的“血案”—自建LLM的安全思考
云安全技术观察 「云安全技术观察」栏目聚焦云计算时代的安全技术前沿与实践探索。从AI大模型时代的新风险观察，到大模型加持的安全产品力升级，从云原生架构的安全体系建设到安全攻防的激烈对抗...这里既有对前沿技术的探索，也有安全建设的实战经验复盘，为您提供落地的技术参考和前瞻性洞察。 无论安全如何演进，技术领先性永远是我们不变的追求。 一.前言 ...
Ollama漏洞引发的“血案”—自建LLM的安全思考
「云安全技术观察」栏目聚焦云计算时代的安全技术前沿与实践探索。从AI大模型时代的新风险观察，到大模型加持的安全产品力升级，从云原生架构的安全体系建设到安全攻防的激烈对抗...这里既有对前沿技术的探索，也有安全建设的实战经验复盘，为您提供落地的技术参考和前瞻性洞察。 无论安全如何演进，技术领先性永远是我们不变的追求。 前言 大型...
GitHub 8k star！Portkey AI Gateway 如何帮你3行代码接入1600+ LLM，实现成本、可靠性与安全三赢？
嗨，我是小华同学，专注解锁高效工作与前沿AI工具！每日精选开源技术、实战技巧，助你省时50%、领先他人一步。免费订阅，与10万+技术人共享升级秘籍！ Portkey AI Gateway 是一个轻量级、高速、安全的中间层，帮助应用对接多模态 AI 模型，统一管...
Web LLM 实验：利用 LLM 中不安全的输出处理
前言 Web LLM 各组织都在急于集成大型语言模型 (LLM)，以改善其在线客户体验。这使他们面临 Web LLM ，这些攻击利用模型对无法直接访问的数据、API 或用户信息的访问权限。例如，可能： 检索 LLM 有权访问的数据。此类数据的常见来源包括 LLM 的提示、训练集以及提供给模型的 API。 通过 API 触发有害操作。例如，攻击者可以...
ResponsibleTA提升LLM可靠性，任务完成更安全、更高效
AI 智能助手照进现实。近几个月，ChatGPT、GPT-4 等大语言模型（LLM）展现出突破性的理解、推理、生成、泛化和对齐能力，对各行各业的研究方式和生产效率均带来广泛而深远的变革及影响。此外，LLM 还展现出在真实世界的开放场景中解决复杂问题的能力，使科幻电影中无所不能的 AI 智能助手照进了现实。在实现自然场景中的任务自动化时，一个复杂的任务往往由多个子任务构成，这需要多个模型或 API....
LLM系列 | 11: 基于ChatGPT构建智能客服系统(query分类&安全检查&防注入)
简介 竹斋眠听雨，梦里长青苔。门寂山相对，身闲鸟不猜。小伙伴们好，我是微信公众号：《小窗幽记机器学习》的小编卖热干面的小女孩。紧接前面几篇ChatGPT Prompt工程系列文章： 04:ChatGPT Prompt编写指南05:如何优化ChatGPT Prompt？06:ChatGPT Prompt实践...
本页面内关键词为智能算法引擎基于机器学习所生成，如有任何问题，可在页面下方点击"联系我们"与我们沟通。