产品
解决方案
文档与社区
权益中心
定价
云市场
合作伙伴
支持与服务
了解阿里云
AI 助理
备案
控制台
AIGC 内容审核解决方案
AIGC 内容迅速发展,在商业和社会应用各方面形成热潮,一方面带来了海量趣味的内容信息,一方面也让整个社会面临 AIGC 可能产生的违法违规、虚假偏见、违背伦理道德等有害内容的挑战。随着社会对 AIGC 内容安全的关注和相关监管意见的逐步落地,阿里云内容安全也致力于为您提供完善、高效和高性价比的内容检测与治理的解决方案。
开通内容安全
前往接入使用
查看产品官网
实践方案
产品规格
产品能力
相关方案推荐
实践方案
参照国家互联网信息办公室《生成式人工智能服务管理办法(征求意见稿)》
方案介绍
在生成式人工智能应用中,内容安全机制贯穿模型整个生命周期,包括模型训练、模型评测、模型应用、模型迭代等环节。模型训练阶段,过滤样本数据中的违规或隐私内容。模型应用阶段,检测用户输入和生成内容,识别是否存在涉黄、暴恐、违禁等风险。结合人工审核、用户举报等机制,能够持续迭代模型,更全面地保障内容合规。
面临内容风险
生成色情内容或暴力内容
生成影响社会或国家安全的内容
生成危害个人隐私的内容
生成歧视或仇恨的内容
生成不宜传播或不良价值观的内容
方案优势
服务即开即用
参照最新法规
高弹性可扩展
建议使用产品
文本审核
图片审核
语音审核