CNET科技资讯网 5月3日 北京消息(文/齐丰润): 技术的飞速发展带来的是安全行业越来越受到重视,同时也让各种新技术得以在安全领域中大胆的去应用。当下,越来越多的网络安全公司开始利用深度学习、自动化处理、人工智能等技术手段对数据进行深度分析,改善安全防御体系,实现对威胁的快速及时响应和控制。
在2017北京国际互联网科技博览会暨世界网络安全大会上,“阿里聚安全算法挑战赛”进行了现场答辩,并最终决出了优胜者。据了解,此次答辩赛总共有15名选手入围。最后,StanTheMan战队勇夺冠军,并获得150000元的现金大奖和8月份赴加拿大参加国际顶级数据挖掘会议KDD 2017的学习机会;Waterdrop战队、SmartIDS战队分获亚军和季军;secAI_LYL战队和freelife战队获得第四名。
本届线上选拔赛赛题包括了《人机行为识别》、《SQL注入检测》和《社区反垃圾》,首次把风控、网络安全及内容安全的多维度数据结合的算法比赛。据悉,“阿里聚安全算法挑战赛”吸引了来自全球1000多支参赛队伍,其中不乏中国科学院、北京大学、浙江大学等众多高校人才,也有大数据行业资深人士、网络安全专家、企业和创业者参与。
参赛选手表示,“阿里聚安全举办的这次比赛非常好,对于我来说,这是一次极好的‘实战’机会。赛题采用了阿里巴巴安全部真实汇总的数据,而且有阿里云强大计算力的支持。另外,本次比赛还把风控、网络安全及内容安全进行了很好的结合,对选手的能力是一个非常大的挑战,也让我们得到了提升。”
将AI融入到安全中已经成为了行业的新趋势。但在当前,很多拥有丰富的安全行业经验的工程师,并没有专业且海量的数据供其研究。相对的,对于专注于算法领域的工程师来说,其在一定程度上又缺乏对安全的认知。这使得从人才层面上,安全+AI的应用就面临了很多难点。
为此,阿里安全打造了开放平台阿里聚安全,在依托阿里巴巴十余年的安全领域词库沉淀,每天百亿级的交易、近百PB的数据下,为企业提供安全能力的同时,还为业界输出计算能力和专业数据,帮助算法专家和安全专家更好地互通,融合网络安全和人工智能两大热门领域。
据悉,阿里聚安全的数据风控、内容安全服务已经大量应用人工智能和深度学习技术,使用成熟的模型和算法,实时预警分析,可大幅度帮助企业降低人力成本,并提升业务风险的防控能力。
好文章,需要你的鼓励
AIM Intelligence联合多所知名大学揭示了音频AI系统的重大安全漏洞,开发出名为WhisperInject的攻击方法。这种攻击能让看似无害的音频指令操控AI生成危险内容,成功率超过86%,完全绕过现有安全机制。研究暴露了多模态AI系统的系统性安全风险,对全球数十亿智能设备构成潜在威胁。
新加坡国立大学研究团队系统梳理了视觉强化学习领域的最新进展,涵盖超过200项代表性工作。研究将该领域归纳为四大方向:多模态大语言模型、视觉生成、统一模型框架和视觉-语言-动作模型,分析了从RLHF到可验证奖励范式的政策优化策略演进,并识别出样本效率、泛化能力和安全部署等关键挑战,为这一快速发展的交叉学科提供了完整的技术地图。
浙江大学研究团队通过OmniEAR基准测试揭示了当前AI模型在物理世界推理方面的严重缺陷。测试显示,即使最先进的AI在明确指令下能达到85-96%成功率,但面对需要从物理约束推断行动的任务时,成功率骤降至56-85%。研究发现信息过载反而降低AI协作能力,监督学习虽能改善单体任务但对多智能体协作效果甚微,表明当前架构存在根本局限性。
纽约大学和Aimpoint Digital Labs的研究团队首次揭示了Transformer模型训练中"大规模激活"的完整发展轨迹。这些影响力比普通激活大千倍的"超级激活"遵循可预测的数学规律,研究者开发出五参数公式能以98.4%准确率预测其变化。更重要的是,通过调整模型架构参数如注意力密度、宽深比等,可以在训练前就预测和控制这些关键激活的行为,为设计更高效、量化友好的AI模型提供了全新工具。