就在今天,一众全球范围内AI领域的重要人物,包括伊隆·马斯克(Elon Musk)和OpenAI CEO萨姆·奥尔特曼(Sam Altman)等在内,共同联署了一封公开信,呼吁全球共同努力,降低人工智能导致的灭绝风险。
这封公开信由Safe AI Society发起,该组织是一个致力于推动AI安全研究和政策的非营利组织。这封公开信强调,AI的发展可能带来重大的风险,包括人类文明的存续风险。他们呼吁全球的研究者、政策制定者和公众共同努力,避免在AI发展中出现可能威胁安全的竞赛行为。
这次联署,与几个月前的一次呼吁有类似之处,但有本质不同。当时,马斯克等人呼吁,暂停训练大型AI模型六个月,主要是考虑到大型AI模型可能带来的风险和道德问题。那封公开信虽然也有上千人参与,但是这次联署中出现的很多人,并没有加入其中,比如“ChatGPT之父”萨姆·奥尔特曼,以及国内的清华大学AIR院长张亚勤。
而这一次声明虽然很短,只有22个词,但透露的情绪明显更警惕——将AI风险与瘟疫大流行和核战争,相提并论。公开信如下:
部分签署声明的专家和公众人物名单:
1. Geoffrey Hinton - 多伦多大学计算机科学名誉教授
2. Yoshua Bengio - 蒙特利尔大学/米拉计算机科学教授
3. Demis Hassabis - Google DeepMind首席执行官
4. Sam Altman - OpenAI首席执行官
5. Dario Amodei - Anthropic首席执行官
6. Dawn Song - 加州大学伯克利分校计算机科学教授
7. Ya-Qin Zhang - 清华大学AIR教授和院长
8. Ilya Sutskever - OpenAI联合创始人和首席科学家
9. Shane Legg - Google DeepMind首席AGI科学家和联合创始人
10. Martin Hellman - 斯坦福大学电气工程名誉教授
11. James Manyika - Google-Alphabet研究、技术与社会高级副总裁
12. Yi Zeng - 中国科学院自动化研究所大脑启发式认知AI实验室教授和主任
13. Xianyuan Zhan - 清华大学助理教授
14. Anca Dragan - 加州大学伯克利分校计算机科学副教授
15. Bill McKibben - 米德尔伯里学院舒曼杰出学者
16. Alan Robock - 罗格斯大学气候科学杰出教授
17. Angela Kane - 国际和平研究所副总裁,前联合国裁军事务高级代表
18. Audrey Tang - 数字事务部长,国家网络安全研究所主席
19. Daniela Amodei - Anthropic总裁
20. David Silver - Google DeepMind和UCL计算机科学教授
21. Lila Ibrahim - Google DeepMind首席运营官
22. Stuart Russell - 加州大学伯克利分校计算机科学教授
23. Marian Rogers Croak - Google负责人工智能和人类中心技术的副总裁
24. Andrew Barto - 马萨诸塞大学名誉教授
25. Mira Murati - OpenAI首席技术官
26. Jaime Fernández Fisac - 普林斯顿大学电气和计算机工程助理教授
27. Diyi Yang - 斯坦福大学助理教授
28. Gillian Hadfield - 多伦多大学教授,CIFAR AI主席,AI向量研究所
29. Laurence Tribe - 哈佛大学名誉大学教授
30. 30.30. Pattie Maes - 麻省理工学院 - 媒体实验室教授
31. Kevin Scott - 微软首席技术官 ?
加入公开信签名?:https://www.safe.ai/statement-on-ai-risk#open-letter
好文章,需要你的鼓励
现代大语言模型就像一栋拥有数百个房间的豪华大厦,每个房间(或称为"层")都执行特定的功能,共同协作完成复杂的语言理解和生成任务。然而,这些模型的规模已经变得如此庞大,以至于只有拥有高端计算资源的机构才能负担得起它们的运行成本。这就像一辆耗油量极大的豪华跑车,普通人负担不起它的燃料费用。
想象一下,当你在解答一道复杂的数学题时,你不仅需要给出答案,还需要详细解释每一步推导的理由,不能有任何逻辑跳跃或假设——这就是形式化数学推理的严格要求。
想象一下日常生活中我们使用的语音助手,比如Siri或ChatGPT。它们通常是这样工作的:你问一个问题,它回答,然后安静地等待你的下一个指令。这就像是一个只会被动回应的服务员,永远等待你的呼唤。而Voila团队认为,真正高级的AI助手应该更像一个时刻准备着的好朋友或队友,能够自然地融入你的生活节奏中。
想象一下,你正在参加一场料理比赛,有两位评委。第一位评委只给你一个分数,而第二位评委会详细解释你的菜品在口感、创意和技巧上的表现如何,然后才给出最终评价。显然,第二位评委的反馈对于你改进厨艺更有帮助。伊利诺伊大学研究团队正是秉持这一理念,开发了能像第二位评委那样工作的AI评估系统。