编者按:北京时间4月23日,《西部世界》第二季首播,第一集的名称为《journey into night》,跟福特生前开发的最后一个关于泰迪与德洛丽丝的故事线名称相同。2000多名观众在豆瓣上打出了9.5的高分。对此,美国AI周刊记者KHARI JOHNSON表示——所有开发者们都应该好好看看《西部世界》。
《西部世界》第二季第一集首播发布会
首先声明,我不算是《西部世界》的忠实粉丝,但作为一位关注人工智能方向的记者,我仍然打算认真地看完《西部世界》第二季中的每一集内容,同时,我还想把它“墙裂”推荐给各位开发者们。
在第二季首播宣传发布会,我采访了剧中的演员们,了解了他们如何在这样一部展示人工智能发展方向的电视剧中扮演角色,又由此感受到人工智能带来的哪些影响。
Shannon Woodward在剧中扮演Elsie Hughes,一名程序员。她的工作是修复出现反叛情绪的机器人。在被问及这部剧集的意义时,她表示自己比较支持机器人权利法案这样的思路,并希望保护此类技术免受滥用。此外,她相信总有一天会出现像《西部世界》中那样充满人形机器的主题公园,而这种环境会不可避免地会激发人类的自恋或其它消极性格特征。
“人们经常会问我,‘你认为《西部世界》中的场景真的会在现实世界出现吗?’在我看来,是的,因为我们已经拍摄出了这样的剧情,这将给人们带来影响。”Woodwar说。
Woodwar对机器智能可能造成的意外后果以及机器人如何改变人类社会等话题非常感兴趣。她指出:“艺术创造于幻想,指出了一条未来思维的推进方向,而生活也可能据此演变。”
去年,科幻小说家David Brin就曾预测称,在未来的几年,人类社会将出现“机器人移情危机”。考虑到机器人的行动方式将越来越像人类,这随即引发了人们关于如何正确对待机器人的争论。
侧面反映人类最负面性格的影视作品。毕竟,“奴隶制度不仅会影响到奴隶本身,同时也会影响到奴隶主。”
《西部世界》第二季中以极为黑暗的方式对人工智能作出了描述,这将引发我们对人工智能负面影响的思考。但同时,我们也不能否认人工智能带来的积极影响,比如利用计算机视觉技术以保护濒危物种、提高作物产量或帮助儿童应对创伤经历。
观看《西部世界》的另一大快感在于,其实观众并不要求创作者是否能够把故事讲得特别精彩,或者对深度学习等技术方案拥有深入的了解。正如Woodward所指出的那样,这是一部用于描述人工智能技术可能性的科幻作品。
目前人工智能技术之所以如此流行,一方面是由于各大技术巨头、政府以及企业在社会中各个层面作出的积极推动,另一方面则来自艺术的推动。比如电影《她(Her)》,以及电视剧《黑镜》、《人类》等都是非常典型的代表。
因此,即使大家像我一样对《西部世界》电视剧本身不算特别感冒,但只要您身为开发人员,就有必要对其加以关注。因为每一位开发人员总会在特定时间点上使用人工智能技术,而我们的观点也会在潜移默化当中受到这类作品的影响。
虽然在智能机器实现之前,我们还有更多紧迫的问题需要面对——例如人工智能会以有失公允的方式对非裔美国人施以重判,或者考虑在不存在对女性等特定人群的偏见的前提下利用数据集训练医疗卫生系统中的神经网络。但无论如何,《西部世界》都值得一看。
很多开发人员可能会强调,如今的人工智能技术应用范围仍然不广,且缺少人性化特征。没错,像《西部世界》中出现的通用型AI还不存在,但这并不妨碍这部剧的可看性。正如《星际迷航》、《星球大战》等作品激发了一代技术人员的未来幻想,进而发明电影当中出现的种种事物,甚至在美国宇航局的宇航员当中建立起一种强大的道德操守规则。
《西部世界》也许具有同样的影响力。
好文章,需要你的鼓励
AIM Intelligence联合多所知名大学揭示了音频AI系统的重大安全漏洞,开发出名为WhisperInject的攻击方法。这种攻击能让看似无害的音频指令操控AI生成危险内容,成功率超过86%,完全绕过现有安全机制。研究暴露了多模态AI系统的系统性安全风险,对全球数十亿智能设备构成潜在威胁。
新加坡国立大学研究团队系统梳理了视觉强化学习领域的最新进展,涵盖超过200项代表性工作。研究将该领域归纳为四大方向:多模态大语言模型、视觉生成、统一模型框架和视觉-语言-动作模型,分析了从RLHF到可验证奖励范式的政策优化策略演进,并识别出样本效率、泛化能力和安全部署等关键挑战,为这一快速发展的交叉学科提供了完整的技术地图。
浙江大学研究团队通过OmniEAR基准测试揭示了当前AI模型在物理世界推理方面的严重缺陷。测试显示,即使最先进的AI在明确指令下能达到85-96%成功率,但面对需要从物理约束推断行动的任务时,成功率骤降至56-85%。研究发现信息过载反而降低AI协作能力,监督学习虽能改善单体任务但对多智能体协作效果甚微,表明当前架构存在根本局限性。
纽约大学和Aimpoint Digital Labs的研究团队首次揭示了Transformer模型训练中"大规模激活"的完整发展轨迹。这些影响力比普通激活大千倍的"超级激活"遵循可预测的数学规律,研究者开发出五参数公式能以98.4%准确率预测其变化。更重要的是,通过调整模型架构参数如注意力密度、宽深比等,可以在训练前就预测和控制这些关键激活的行为,为设计更高效、量化友好的AI模型提供了全新工具。