北京时间5月12日上午消息,从本周二开始,谷歌将关闭公众对地图的编辑功能,以防用户滥用该系统恶意加入某些地标。
近期,谷歌地图中的巴基斯坦地区曾出现Android机器人向苹果图标“撒尿”的图像。公司因此受到外界对其失察的指责,并在此后开始手工审查用户上传内容。但是谷歌地图一名员工表示,对于潮水般的用户编辑内容,团队已无力处理。随着用户递交内容积压情况日益严重,谷歌决定关闭该功能。
谷歌地图编辑的功能在2011年向公众开放,用户可以在地图上一些空旷地区放入自己编辑的图像。“撒尿事件”并非孤立,这名员工表示,近期谷歌地图收到的垃圾内容与日俱增。
好文章,需要你的鼓励
想象一下,你有一个非常聪明的朋友,他知道很多知识,但每当需要使用计算器、搜索引擎或查询最新天气时,却变得像个笨手笨脚的孩子。这正是当前大语言模型(简称LLMs,如ChatGPT这类AI系统)面临的尴尬处境。
想象一下,你拥有一个聪明的助手,它知道很多知识,但在面对需要使用计算器、搜索引擎或查询最新信息时却显得笨手笨脚。这正是当前大语言模型(LLMs)面临的困境。虽然这些模型已经通过监督微调(SFT)学会了使用工具的基本能力,但它们常常在面对复杂或不熟悉的场景时表现不佳。
想象你正在和一个智能助手聊天。如果你直接要求它提供有害信息,它很可能会礼貌拒绝。但如果你通过一系列看似无害的对话,逐步引导它走向你的真实目标呢?这就是当前AI安全领域面临的一个严峻挑战——多轮对话中的安全漏洞。
想象你在使用一个非常聪明的AI助手完成一项复杂任务,比如解决一道数学难题。你可能注意到这个助手会花很长时间"思考",一步一步写下大量推理过程,最后才给出答案。虽然这种详细的思考过程确实帮助AI做出了更准确的判断,但同时也带来了一个明显的问题:它太"啰嗦"了,消耗了大量的计算资源和时间。