责任与边界

人工智能治理、安全与个人数据隐私

Gregg Chen (GC) 分享

Gregg Chen（GC）

数字化转型与人工智能方案专家

核心专长

前沿 GenAI 方案的探索、治理与安全体系搭建

工作经历

初创 Fintech、SAP SuccessFactors、Big4 咨询 | >10 余年行业经验

分享议程

什么是 Responsible AI

定义与核心原则解析

企业实践路径

从理论到落地：治理框架

全球治理案例

EU、新加坡、行业实践

安全与隐私

数据保护与风险防控

真实案例警示

企业失败案例解读

行动号召

组织协同与文化建设

什么是 Responsible AI

透明性

清晰说明 AI 能做什么、不能做什么，让用户充分了解

安全性

预防滥用、防止伤害，确保系统可靠与可信赖

公平性

避免歧视，确保决策对所有群体都公正合理

问责性

清晰的责任边界，人类对 AI 决策保持最终控制

有目共睹的一些趋势

🔄 "试点炼狱"陷阱

65% 的组织仍困在 AI 试验或试点阶段

麦肯锡《人工智能现状》2025年11月

💼 将 AI 视为技术采购

IT 部门被迫承担业务成果 - 如"营销创意"或"批判性思维"，却缺乏业务领导授予权限或业务背景

🎯 Side-Projects "爱好"

"保守"文化 + 热爱前沿黑科技带来的风暴

组织员工敬业度受影响

建设企业 AI 治理

全球视野：AI治理案例研究

人工智能法案 (EU AI Act)：基于风险的分级监管体系

❌ 不可接受

⚠️ 高风险

💡 有限风险

✓ 低风险

❌ 不可接受风险

完全禁止

社会评分、公共场所实时人脸识别

⚠️ 高风险

严格监管

招聘筛选、医疗诊断、教育评估

💡 有限风险

透明度要求

聊天机器人需明确告知用户身份

✓ 低风险

基本无限制

视频游戏AI、垃圾邮件过滤器

⚖️ 2026年8月1日

凡有任何欧盟员工或客户常驻地区属于欧盟区域，任何机构或组织违规，罚款生效

执法机制：What Enforcement Really Means

⚖️ 2026年8月1日生效：凡有欧盟员工或客户，违规罚款生效

Model AI Governance Framework 🇸🇬

Trustworthy AI By Design for Agentic AI

风险评估与边界划定

事前评估AI应用风险，设定明确的行动边界

使用者有意义问责

人类对AI决策保有最终责任，避免过度依赖机器

技术控制与流程

AI全生命周期实施技术管控，确保安全性与可靠性

用户责任

保障用户知情权，使其能负责任地使用AI系统

Trustworthy AI

扫码参与

🔄 Deploy First 先落地 → Regulate Second 后监督

AI安全与数据隐私

AI安全威胁

对抗性攻击、数据投毒、提示语注入、模型盗取

数据隐私保护

严格保护个人敏感数据，遵守 GDPR / PIPL / PDPO

核心原则

数据最小化、目的限制、安全保护、模型安全

安全与隐私紧密相连

一方面的失败往往会加剧另一方面的风险

真实案例警示

不当使用AI导致的数据泄露与声誉损失

数据泄露事件

员工误将敏感源代码输入公共AI聊天工具，导致机密外泄（2023年）

律师滥用AI编造案例

美国律师使用ChatGPT生成假案例，被法院处罚

企业级配置失误

API密钥与客户数据未隔离，暴露Tenant ID与Client Secret

关键标准与新兴概念

ISO/IEC 42001 标准

全球首个AI管理体系国际标准。基于PDCA循环，帮助组织建立负责任的AI管理流程，降低技术应用风险。

AI 主权 (AI Sovereignty)

强调国家对AI技术的自主控制能力，涵盖数据、算力、模型及人才。保障国家在AI领域的战略利益。

行动号召

AI不是一个人的事：治理需要全组织协同参与

全员参与

业务、IT、安全、法务等跨部门协作，领导 ALL IN

人人有责

每位员工都应具备AI风险意识，审慎使用工具，守护数据边界

从我做起

倡导建立团队AI守则，推动负责任AI文化自下而上落地

感谢倾听

Q&A 互动环节

欢迎大家提问与交流