中国对AI安全的看法正在迅速变化
51000
画布
|大纲
内容详情
引言
主题：中国对人工智能（AI）安全的看法和政策的变化。
背景：过去两年，中国的AI生态系统在如何看待和讨论AI安全方面经历了重大转变。西方国家的AI科学家多年来一直警告未来AI系统可能对人类构成灾难性风险，而这些担忧在中国科学界和政策制定者中是否共享尚不清楚。
中国对AI安全的关注提升
研究论文与声明
- 近年来，越来越多的研究论文、公开声明和政府文件表明，中国正将AI安全视为一个日益紧迫的问题，值得进行重大技术投资和潜在监管干预。
政策文件
- 2024年7月，中国共产党发布了一份重要政策文件，其中包括呼吁创建“确保人工智能安全的监督系统”。
技术与政治挑战
科学争议与翻译难题
- 全球范围内，AI安全仍然是一个在技术和政治层面都存在深刻争议的概念。
- 在中文中，“安全”一词可以同时表示“安全”和“保障”，这使得在某些情况下很难区分极端风险和更广泛的国家安全问题。
早期迹象
科学界的声音
- 从2020年开始，关于前沿AI安全的担忧开始在中国精英科学和学术界出现。
- 温高，北京大学的一位院长和主要AI研究实验室的负责人，在2021年共同撰写了一篇关于AGI潜在风险的研究论文。
ChatGPT引发的讨论
ChatGPT的推出使AI安全问题成为焦点。
2023年上半年，中国围绕AI安全的技术和政策讨论迅速升温。
国际对话与合作
高层会议与声明
- 2023年6月，北京人工智能学院举办了一场关于前沿AI安全的全天论坛。
- 2023年10月，姚期智与其他国际AI专家联合发表了《管理快速进展中的极端AI风险》的论文。
政府行动
国际参与
- 2023年10月，习近平主席介绍了全球AI治理倡议，其中包含“确保AI始终处于人类控制之下”的呼吁。
- 中国参加了英国的AI安全峰会，并签署了布莱切利宣言。
监管与政策建议
安全监督系统的呼吁
- 2024年7月，中共领导层在一个关键政策文件中呼吁建立“确保人工智能安全的监督系统”。