OpenAI创始人呼吁全球合作应对人工智能风险

时间：2023-06-10 12:58:00 编辑：admin

(相关资料图)

“减轻人工智能带来的人类灭绝风险，应该与大流行病和核战争等其他影响社会的大规模风险一同成为全球性的优先事项。”今年5月30日，国际人工智能（AI）领域非营利组织“人工智能安全中心”发布的公开信提醒国际社会重视AI带来的一系列重要且紧迫的风险。被称为“ChatGPT之父”的OpenAI创始人兼CEO萨姆·奥特曼也签署了上述公开信，他在本月10日举行的一场论坛上呼吁，通过国际合作为AI系统的安全开发建立规范和标准，并为所有国家使用通用人工智能（AGI）设置平等、统一的护栏。奥特曼还表示，他期待中国的AI研究者能够在其中做出重要贡献。

当前由ChatGPT引发的新一轮AI热潮正在席卷全球，人们对AI能够带来的生产力提升抱有期待，但也越发认识到其可能带来的巨大风险。奥特曼10日在2023北京智源大会期间发表视频演讲表示，未来十年，人们很可能会拥有非常强大的AI系统，“人工智能革命将创造共同财富，并有可能显着提高每个人的生活水平，但我们必须共同管理风险才能实现这一目标。”

针对AI可能带来的问题，奥特曼举例称：旨在改善公共卫生的AI系统可能会通过提供毫无根据的建议来破坏整个医疗保健系统。同样，由于缺乏对影响粮食生产和环境平衡的可持续性考虑，旨在优化农业措施的AI系统可能会无意中耗尽自然资源或破坏生态系统。“我希望我们都能同意，推进AGI安全是我们需要共同关注的最重要领域之一……AI是一项具有世界影响的全球技术，不计后果地开发和部署造成的事故后果将影响到我们所有人。”

奥特曼认为，保证AGI术的安全需要国际合作与协调。首先，需要在具备包容性的过程中建立国际规范和标准，并为所有国家使用AGI设置平等、统一的护栏。其次，需要通过国际合作，以可验证的方式建立全球对AI系统安全开发的信任机制。“千里之行，始于足下”，奥特曼援引《道德经》的话表示，最具建设性的第一步是国际科技界的合作，各方应该推动提升在安全技术进步方面的透明度和知识共享。

奥特曼也承认，大国之间有时可能会有分歧，但历史上，即使是最困难的时期，全球大国也找到了在重要议题上开展合作的方法，而大多数此类合作都为关键医学和科学进步做出了贡献，例如根除脊髓灰质炎和天花等疾病。如今，随着AI技术的发展，任何偏差的潜在影响和严重程度都将呈指数级增长，人们现在要解决这些挑战，努力让AI系统在未来发生灾难性后果的风险降至最低。

奥特曼表示，保证AI的安全和有益不仅是一个技术问题，这还需要了解不同国家的用户偏好。中国拥有一些世界上最优秀的AI人才，“我希望中国的AI研究人员在解决AI系统对齐难题上做出重要贡献。”

“我们看到中美和世界各地的研究人员为实现共同目标而携手努力的巨大潜力”，奥特曼说，如果能够这样做，他相信人们能够利用AI解决世界上最重要的问题，并显着改善人类的生活质量。

标签：