据快科技9月23日报道,联合国安理会将在当天召开会议,专门讨论人工智能的快速发展对国际安全带来的挑战。此次会议旨在研究AI技术迅速演进所引发的安全隐患及其全球治理的对策。早在2023年,安理会首次就AI风险召开专题会议时,中国代表已明确指出,人工智能的发展不能没有监管,必须避免成为失控的“野马”。如今,随着AI技术的不断进步,潜在的安全问题日益显现,对全球AI治理的需求也愈加迫切。
近期,联合国秘书长古特雷斯向各国领导人发出了警告,强调飞速发展的人工智能技术潜藏着多重风险,亟需各国协作构建监管体系并完善治理规则。9月12日,Anthropic的首席执行官达里奥·阿莫代伊呼吁放缓前沿AI系统的研发,这一倡议得到了OpenAI CEO萨姆·奥尔特曼、SpaceX创始人埃隆·马斯克等众多业界领袖的支持,进一步引发了对AI“末日论”的广泛讨论。在这一背景下,全球对AI技术风险的反思与管控的呼声日益高涨。
据几位不愿透露姓名的知情人士透露,本次会议将邀请多家国内外顶尖AI企业参与讨论并通报行业的风险情况。其中,DeepSeek将特别向安理会报告人工智能发展所带来的各种安全风险。此外,其他中国人工智能企业如月之暗面等也受邀参会,讨论关于AI安全治理的重要话题。尽管消息指出DeepSeek的创始人梁文锋不打算出席,但还有可能会有最后时刻的变动。同样,OpenAI的首席执行官萨姆·奥尔特曼将在会议上做专项简报,阐述行业风险及其治理思路。此外,AI企业Anthropic的高级代表也将参与此次会议,与其他与会者共同探讨全球AI安全议题。