
表示将向牛津大学捐赠1.5亿英镑,旨在通过相关慈善项目对人工智能(AI)技术加以控制。
利用这笔资金建立的Stephen A Schwarzman人文中心,将包含一座图书馆、一座音乐厅、一个礼堂,以及最重要的人工智能伦理研究所。
Stephen Schwarzman回应关于这笔捐赠的问题时表示,“技术不能随心所欲地扩张。”事实上,他也并不是唯一关注这方面问题的名人。
eBay公司创始人Pierre Omidyar去年成立了Luminate机构,倡导公民赋权、数据与数字权利、财务透明以及媒体独立等目标。
这一位于伦敦的机构,承诺投入数百万资金用于监控AI活动。Luminate CEO Stephen King今年4月接受《福布斯》采访时表示,“我们意识到,人工智能领域最大的问题在于,相关成果往往是由不关心道德后果的程序员们所开发而成。”
缺乏对于AI方案的问责制度,意味着人们可能会受到种族偏见的影响——例如人脸识别软件或者社会信用评分系统,也许存在种种不易察觉的缺陷。而随着AI技术逐步取代不同行业的大量工作岗位,由此带来的大规模裁员也成为人们担忧的重点。
不过Omidyar与Schwarzman,以及领英公司创始人Reid Hoffman及Romesh Wadhwani等众多其他出资者,仍然只是亿万富豪圈子中的少数。尽管他们以怀疑的心态看待AI技术,但大多数人实在无力将如此可观的财富投入到这一新兴技术的督导当中。
Tej Kohli的Rewired,孙正义的Vison基金,以及Pham Nhat Vuong的VinGroup,只是亿万富豪支持下的少数几笔资金,用于为世界各地的AI开发提供助力。事实上,成千上万其他人的资金仍在流入私营企业,而这些企业开发出的AI技术完全处于大学甚至是政府的监控范围之外。
那么,Schwarzman这样的捐赠者,会给当前正在快速发展的AI带来怎样的改变,特别是对世界的影响层面?
Schwarzman在一次采访中表示,“我们将西方文明的价值观与知识核心浓缩在这一处,希望利用知识帮助一小群开发这种AI技术的人们实现全球范围内的顺畅对话。”
“目前,大多数政府还完全没有准备好应对这种新情况。为什么会这样?因为这是一种不同于以往的新型技术。”
然而,慈善事业有望帮助弥合大学与政府之间的分歧。Luminate常务董事Martin Tisné指出,“我们推动大学开展应用研究。私营部门正在开发相关技术,但我们不可能单纯依靠私营部门进行自我监管。”
“政府需要学者、非政府组织以及政策倡导者们的协同帮助。”
Martin Tisné还补充称,在Schwarzman的捐赠之后,其它捐赠款项将“快速且宽松地进入这一领域。”虽然目前的势头非常积极,但Tisné希望看到有更多的款项被转向国际化项目,而非单纯的美国或者英国AI项目。他认为,“英国与美国已经拥有相对充足的研究机构。”
“但如果把眼光放得更长远一点,我们会发现目前欧洲其它地区负责研究这些问题的机构要少得多。此外,印度与中国也需要更多此类非营利性组织。”
“因此,我认为英国可以做出一些真正振奋人心的举措,用以弥合英国与全球在AI愿景方面的差距。”
亿万富豪与大学之间的合作有望给AI带来控制,但前提是各方机构必须真正建立起凝聚力。Tisné表示,“保持合作的连续性非常重要,我们首先需要弄清楚哪些组织在其中应扮演哪种角色。”
好文章,需要你的鼓励
AIM Intelligence联合多所知名大学揭示了音频AI系统的重大安全漏洞,开发出名为WhisperInject的攻击方法。这种攻击能让看似无害的音频指令操控AI生成危险内容,成功率超过86%,完全绕过现有安全机制。研究暴露了多模态AI系统的系统性安全风险,对全球数十亿智能设备构成潜在威胁。
新加坡国立大学研究团队系统梳理了视觉强化学习领域的最新进展,涵盖超过200项代表性工作。研究将该领域归纳为四大方向:多模态大语言模型、视觉生成、统一模型框架和视觉-语言-动作模型,分析了从RLHF到可验证奖励范式的政策优化策略演进,并识别出样本效率、泛化能力和安全部署等关键挑战,为这一快速发展的交叉学科提供了完整的技术地图。
浙江大学研究团队通过OmniEAR基准测试揭示了当前AI模型在物理世界推理方面的严重缺陷。测试显示,即使最先进的AI在明确指令下能达到85-96%成功率,但面对需要从物理约束推断行动的任务时,成功率骤降至56-85%。研究发现信息过载反而降低AI协作能力,监督学习虽能改善单体任务但对多智能体协作效果甚微,表明当前架构存在根本局限性。
纽约大学和Aimpoint Digital Labs的研究团队首次揭示了Transformer模型训练中"大规模激活"的完整发展轨迹。这些影响力比普通激活大千倍的"超级激活"遵循可预测的数学规律,研究者开发出五参数公式能以98.4%准确率预测其变化。更重要的是,通过调整模型架构参数如注意力密度、宽深比等,可以在训练前就预测和控制这些关键激活的行为,为设计更高效、量化友好的AI模型提供了全新工具。