沈向洋对话图灵奖得主:这个时代的AI治理挑战与机遇并存

科技 2024-07-04 14:03 阅读:4

沈向洋对话图灵奖得主:这个时代的AI治理挑战与机遇并存 第1张

7月4日,2024世界人工智能大会暨人工智能全球治理高级别会议召开,在全球治理图灵圆桌环节,原微软执行副总裁、美国国家工程院外籍院士沈向洋对话三位图灵奖得主罗杰·瑞迪、曼纽尔·布卢姆、姚期智。

谈及对AI的观点与担忧,罗杰·瑞迪表示,自己很惊喜也很高兴,第一是看到了大家都对AI治理方面的风险问题、安全性问题有所担心,但具体需要做哪些研究?需要做哪些投资?目前还没有明确做到。第二,正如联合国发言人讲到的“能力建设”,我们可以尽力让AI帮助每个人把自己工作做好。

罗杰·瑞迪认为新技术会产生新的机会,也会带来问题,但不应只想着负面影响就不继续了,未来,世界上每个人的生产效率将上涨10倍,GDP也将从100万亿生长到1000万亿。

曼纽尔·布卢姆在过去几年重点研究AI意识问题,他与雷诺尔·布朗创立了意识的模型,即“有意识的图灵机”。大脑里有100多亿神经元,100亿的处理器,CTM模型可以告诉人们如何让很多处理器同时工作。

姚期智认为AI风险主要来自三方面:一是网络风险延伸和扩大,随着AI能力出现,传统的数据和网络安全方面风险会被放大;二是没有意识到的社会风险,如AI非常强大,且有很多使用方式,所以颠覆现有社会结构在短时间内发生的可能性是存在的,AI带来大规模失业的可能性也存在;第三是所谓生存或存在的风险。

姚期智表示,所有这些风险都需要很多专家来解决,不仅是科学家,还需要政府、律师、经济学家来参与,几乎涉及每一个行业。

在姚期智看来,AI相当于网络风险的放大,AI的风险也与计算性相关,目前的算力能解决很多以前不知道如何解决的问题,但这也是让人感到非常恐惧的地方。因此,行业需要将AI控制好,也不希望AI进行破坏,这样的平衡是非常困难的。