当地时间本周三,叙利亚电子军队(Syrian Electronic Army)以网络电话Skype为攻击对象,向该聊天服务软件的博客及其Twitter和Facebook账户上发布了反监视信息。
例如,在Skype的官方Twitter帐户上,出现了这样的消息:“停止对人民的监视吧!——叙利亚电子军队。”该微博一发出,美国科技网站The Next Web迅速注意到,这条消息在一个小时内很快被删除,但其纪录却着实在Skype网站上逗留了一段时间。(详见截图)
而在Skype的博客上也出现了类似的大标题:“叙利亚电子军队侵入……停止监视!”
同其他被广泛使用的互联网通信服务一样,在2013年中期由前国安局前合同工爱德华·斯诺登(Edward Snowden)引发的“棱镜门”事件中,微软的自有网络电话Skype也中枪了。据报道称,被泄露的消息中显示,Skype软件上安装有一个“后门”,允许政府监控Skype视频和音频通话,据悉,在Skype总部卢森堡,有官员正在审查Skype是否与国安局共享了其卢森堡用户的信息。
与此同时,在Skype的Facebook账户上,叙利亚电子军队周三发布了更多关于微软该通信服务的信息:“别再使用微软电子邮件了(hotmail和outlook),他们正在监视您的帐户并把它们卖给政府了。随后更新更多细节。#SEA。”当然,这则消息也很快被删除,不过在此之前,美国科技网站TNW(the Next Web)留下了截图。
好文章,需要你的鼓励
想象一下,你有一个非常聪明的朋友,他知道很多知识,但每当需要使用计算器、搜索引擎或查询最新天气时,却变得像个笨手笨脚的孩子。这正是当前大语言模型(简称LLMs,如ChatGPT这类AI系统)面临的尴尬处境。
想象一下,你拥有一个聪明的助手,它知道很多知识,但在面对需要使用计算器、搜索引擎或查询最新信息时却显得笨手笨脚。这正是当前大语言模型(LLMs)面临的困境。虽然这些模型已经通过监督微调(SFT)学会了使用工具的基本能力,但它们常常在面对复杂或不熟悉的场景时表现不佳。
想象你正在和一个智能助手聊天。如果你直接要求它提供有害信息,它很可能会礼貌拒绝。但如果你通过一系列看似无害的对话,逐步引导它走向你的真实目标呢?这就是当前AI安全领域面临的一个严峻挑战——多轮对话中的安全漏洞。
想象你在使用一个非常聪明的AI助手完成一项复杂任务,比如解决一道数学难题。你可能注意到这个助手会花很长时间"思考",一步一步写下大量推理过程,最后才给出答案。虽然这种详细的思考过程确实帮助AI做出了更准确的判断,但同时也带来了一个明显的问题:它太"啰嗦"了,消耗了大量的计算资源和时间。