AIGC 内容审核解决方案
AIGC 内容迅速发展,在商业和社会应用各方面形成热潮,一方面带来了海量趣味的内容信息,一方面也让整个社会面临 AIGC 可能产生的违法违规、虚假偏见、违背伦理道德等有害内容的挑战。随着社会对 AIGC 内容安全的关注和相关监管意见的逐步落地,阿里云内容安全也致力于为您提供完善、高效和高性价比的内容检测与治理的解决方案。

实践方案

参照国家互联网信息办公室《生成式人工智能服务管理办法(征求意见稿)》
方案介绍
在生成式人工智能应用中,内容安全机制贯穿模型整个生命周期,包括模型训练、模型评测、模型应用、模型迭代等环节。模型训练阶段,过滤样本数据中的违规或隐私内容。模型应用阶段,检测用户输入和生成内容,识别是否存在涉黄、暴恐、违禁等风险。结合人工审核、用户举报等机制,能够持续迭代模型,更全面地保障内容合规。
面临内容风险
生成色情内容或暴力内容
生成影响社会或国家安全的内容
生成危害个人隐私的内容
生成歧视或仇恨的内容
生成不宜传播或不良价值观的内容
方案优势
服务即开即用
参照最新法规
高弹性可扩展
建议使用产品

产品规格

面向AIGC开发者提供两种小规格包,可用于抵扣审核服务用量,保障AIGC内容安全

产品能力

内容安全产品提供图像、文字、音视频等多媒体的内容风险智能审核服务
文本审核
支持昵称、聊天和AIGC指令审核,识别涉黄、暴恐和违禁敏感内容,能够识别内容变形变异,关联用户上下文,兼容中英文指令。
图像审核
支持图片、视频画面和AI绘图审核,识别涉黄和暴恐内容,能够区分动漫软色情尺度,检测画面中文字,提供丰富的标签管理。
语音审核
支持音频文件和语音流审核,识别语音涉黄和暴恐内容,检测静默语音和呻吟声,提供转写后的文字和功能辅助人工审核。
文本审核
图像审核
语音审核

相关方案推荐

更多安全产品,为 AIGC 应用提供安全保障
实人认证
使用 AIGC 服务时,用户被监管要求提供真实身份信息,阿里云实人认证包括信息认证和多模态生物技术认证方式,帮助 AIGC 提供方满足监管要求。
相关产品
SSL证书
不仅可保障 AIGC 网站在浏览器的安全性,还能提升该网站在搜索引擎排名。此外,网站加密有效保证用户机密信息安全免受网络犯罪分子的入侵。
相关产品
Web应用防火墙
一站式解决 AIGC 应用所面临的Web攻击、页面篡改、爬虫攻击、数据安全等核心安全问题。
AI助理

你好,我是AI助理

可以解答问题、推荐解决方案等