2024年诺贝尔物理学奖得主杰弗里·辛顿在2025世界人工智能大会上直言：“我们就像一个养了只非常可爱的小虎崽的人。当它（人工智能）长大后，如果它想，可以轻易地杀死你。为了生存，你只有两个选择：第一，摆脱这只小虎崽；第二，找到一种方法来确保它永远不想杀死你。”他建议，各国可以在如何防止人工智能从人类手中夺取控制权的研究上进行合作。

在人工智能安全治理方面，中国始终走在前列。2025世界人工智能大会上，全球人工智能创新治理中心启动，为全球人工智能治理搭建关键平台，促进国际间的交流、合作与规范制定，推动人工智能技术在安全、可靠、可持续的轨道上发展。

“人工智能的治理体系适用于‘木桶原理’，任何一块短板都会影响整体效果。”上海市人工智能行业协会秘书长钟俊浩认为。

“治理与发展总是相辅相成，人工智能行业的安全治理有赖全社会的参与。伴随着‘人工智能+’行动的推进，有助于各行各业主动发现问题，及早采取干预措施，让AI能够健康安全融入千行百业，走进人们的生活。”胡学青说。