内容安全

内容安全产品对直播、视频、社交、游戏、教育、娱乐等场景下的视频、图片、语音、文本、文档内容进行全维度的风险审核，提供鉴黄、暴恐识别、广告识别、不良场景识别、语音反垃圾、文本反垃圾等多种能力，同时结合专家策略运营服务，和审核平台的应用，构建内容智能审核解决方案，大幅度降低人工成本，提高审核效率，提升内容风险防控水位。

在生成式人工智能应用中，内容安全机制贯穿模型整个生命周期，包括模型训练、模型评测、模型应用、模型迭代等环节。模型训练阶段，过滤样本数据中的违规或隐私内容。模型应用阶段，检测用户输入和生成内容，识别是否存在涉黄、暴恐、违禁等风险。结合人工审核、用户举报等机制，能够持续迭代模型，更全面地保障内容合规。

AIGC技术和应用迅速发展，在社会和商业应用各方面形成热潮，一方面带来了海量趣味的内容，另一方面随着AI技术的发展也让部分AIGC内容真假难辨。根据《人工智能生成合成内容标识办法》规定，网络信息内容传播服务的服务提供者应当对AI生成合成的内容进行检测和标识，提醒公众该内容可能为生成合成内容。本方案基于阿里云入选“网络安全国家标准应用实践案例库”的人工智能生成合成内容检测和标识应用作为参考，提供图片、文本、语音、视频AI生成合成内容检测和标识服务。