AI 助理
文档备案控制台
文章 2025-03-10 来自：开发者社区

AI 解决方案的安全控制设计与实施

AI 解决方案的安全控制设计与实施 在 AI 解决方案的设计和实施过程中，安全控制至关重要。以下是一个全面的 AI 安全控制框架，涵盖 数据安全、模型安全、系统安全、合规与治理 四大领域，以确保 AI 解决方案的安全性、可靠性和合规性。 一、数据安全控制 1. 数据获取与存储安全 ...

文章 2025-03-06 来自：开发者社区

AI大模型安全风险和应对方案

一、AI大模型的核心安全问题 1. 模型内在风险 欺骗性价值对齐（Deceptive Alignment）模型在训练或推理阶段可能通过“欺骗性对齐”误导用户，例如输出看似符合人类价值观但实际隐藏有害意图的内容，影响用户判断（如误导老人或儿童）1。 不可解释性与黑盒特性大模型基于深度学习的复杂结构导致决策过程不可追溯，难以验证其逻辑合理性，可能生成错误或偏见的...

文章 2025-03-02 来自：开发者社区

从大规模恶意攻击 DeepSeek 事件看 AI 创新隐忧：安全可观测体系建设刻不容缓

01 全球出圈的中国大模型 Cloud Native DeepSeek 作为一款革命性的大型语言模型，以其卓越的自然语言处理能力和创新性成本控制引领行业前沿。该模型不仅在性能上媲美 OpenAI-o1，而且在推理模型的成本优化上实现了突破性的低成本运营，被誉为“小力出奇迹”的典范。随着新一代模型 DeepSeek-R1 的发布，1 月 27 日，DeepSeek...

从大规模恶意攻击 DeepSeek 事件看 AI 创新隐忧：安全可观测体系建设刻不容缓
文章 2025-03-02 来自：开发者社区

阿里云欧阳欣：AI时代下的安全新范式

9月20日，2024杭州云栖大会技术主论坛上，阿里云智能集团云安全产品线负责人欧阳欣发布主题演讲，分享AI时代云基础设施的安全新挑战及新趋势。AI Infra已来，安全除了要持续面对以往的传统问题，更需要全新理念落地于产品设计、技术演进、架构设计，才能综合得到效果、性能、和成本的云安全最优解。 以下内容基于演讲实录，分享AI时代云安全最新趋势变化。 AI时代面...

阿里云欧阳欣：AI时代下的安全新范式
文章 2025-03-01 来自：开发者社区

从大规模恶意攻击 DeepSeek 事件看 AI 创新隐忧：安全可观测体系建设刻不容缓

01全球出圈的中国大模型 Aliware DeepSeek 作为一款革命性的大型语言模型，以其卓越的自然语言处理能力和创新性成本控制引领行业前沿。该模型不仅在性能上媲美 OpenAI-o1，而且在推理模型的成本优化上实现了突破性的低成本运营，被誉为“小力出奇迹”的典范。 随着新一代模型 DeepSeek-R1 的发布，1 月 27 日，DeepSeek 应用迅速登顶苹果应...

从大规模恶意攻击 DeepSeek 事件看 AI 创新隐忧：安全可观测体系建设刻不容缓
文章 2025-02-28 来自：开发者社区

用AI来做云安全是怎样一种体验？阿里云安全AI能力大曝光

2024年11月15日，第八届云安全联盟大中华区大会在北京顺利召开，阿里云内容审核大模型荣获CSA 2024安全金盾奖，在市场份额与产品创新上均获得行业广泛认可。同时，阿里云安全产品负责人祝建跃参与圆桌对话，与业内各专家共同探讨「生成式AI在云安全的应用与风险管理」。 在AI时代，安全应该扮演什么样的新角色？ ...

用AI来做云安全是怎样一种体验？阿里云安全AI能力大曝光
文章 2025-02-25 来自：开发者社区

AI红队：构建安全AI只是梦想

来源：企业网D1net 负责微软100多个GenAI产品红队测试的团队得出结论，构建安全可靠的AI系统的工作永远不会完成。 本周发表的一篇论文中，包括微软Azure首席技术官Mark Russinovich在内的作者们描述了团队的一些工作，并提出了八项建议，旨在“使红队测试工作与现实世界的风险相一致”。 论文的主要作者、微软AI红队(AIRT...

文章 2025-02-11 来自：开发者社区

从大规模恶意攻击 DeepSeek 事件看 AI 创新隐忧：安全可观测体系建设刻不容缓

作者：羿莉（萧羿） 01 全球出圈的中国大模型 DeepSeek 作为一款革命性的大型语言模型，以其卓越的自然语言处理能力和创新性成本控制引领行业前沿。该模型不仅在性能上媲美 OpenAI-o1，而且在推理模型的成本优化上实现了突破性的低成本运营，被誉为“小力出奇迹”的典范。随着新一代模型 DeepSeek-R1 的发布，1 月 27 日，DeepSeek 应...

从大规模恶意攻击 DeepSeek 事件看 AI 创新隐忧：安全可观测体系建设刻不容缓
文章 2024-12-30 来自：开发者社区

PAI负责任的AI解决方案： 安全、可信、隐私增强的企业级AI

在《Platfrom for AI(PAI)可信AI解决方案》会议中，本次分享的主题是安全、可信、隐私增强的企业级AI。   本次分享会将围绕三个方面展开。 首先，用三个事例和事实介绍了在生活层面上和技术层面上可信AI面临的挑战。 然后，介绍构建AI需要满足的关键要素。 最后，阿里云PAI构建安全、可信的AI，提供的相应功能和未来展望。 ...

文章 2024-12-27 来自：开发者社区

开源AI视频监控系统在监狱安全中的应用——实时情绪与行为分析、暴力预警技术详解

背景与挑战由于囚犯群体的情绪波动和复杂的社会互动，监控人员难以在繁忙的工作中全面监测每个潜在的安全隐患。此外，传统的闭路电视（CCTV）系统也无法有效处理这些复杂的情绪与行为动态，导致暴力行为、集体冲突等事件往往在发生之前无法及时预警。 主要的问题包括： 夜间监控困难：在低光环境下，传...

开源AI视频监控系统在监狱安全中的应用——实时情绪与行为分析、暴力预警技术详解

本页面内关键词为智能算法引擎基于机器学习所生成，如有任何问题，可在页面下方点击"联系我们"与我们沟通。

AI更多安全相关

AI您可能感兴趣

产品推荐

{"cardStyle":"activityCardStyle","productCardInfo":{"productTitle":"","productDescription":"","productContentLink":"","isDisplayProductIcon":true,"isOfficialLogo":false},"activityCardInfo":{"activityTitle":"AI 编码","activityDescription":"百万 Qwen-coder 大模型 tokens 免费体验，通义灵码79元起，加速 AI 应用落地 ","cardContentBackgroundMode":"LightMode","activityContentBackgroundImageLink":"","activityCardBottomInfoSelect":"activityPromotionInfoBlock","activityButton1":{"activityButtonText":"查看详情","activityButtonLink":"https://www.aliyun.com/benefit/scene/coding"},"activityButton2":{"activityButtonText":"立即体验","activityButtonLink":"https://bailian.console.aliyun.com/?spm=5176.30202035.J_VanPN1KXIVRyCVhZMwQ6t.6.1b791e71pokqL0&tab=model#/efm/model_experience_center/text?currentTab=textChat&modelId=qwen3-coder-plus"},"activityButton3":{"activityButtonText":"立即购买","activityButtonLink":"https://www.aliyun.com/benefit/scene/coding#J_1"}}}
AI 编码
百万 Qwen-coder 大模型 tokens 免费体验，通义灵码79元起，加速 AI 应用落地

阿里云机器学习平台PAI

阿里云机器学习PAI（Platform of Artificial Intelligence）面向企业及开发者，提供轻量化、高性价比的云原生机器学习平台，涵盖PAI-iTAG智能标注平台、PAI-Designer（原Studio）可视化建模平台、PAI-DSW云原生交互式建模平台、PAI-DLC云原生AI基础平台、PAI-EAS云原生弹性推理服务平台，支持千亿特征、万亿样本规模加速训练，百余落地场景，全面提升工程效率。

+关注
相关实验场景
更多
查看更多