
据科技博客Recode报道,谷歌公司斥资4亿美元收购了初创公司DeepMind,欲进一步将其在人工智能研发领的研发推向纵深。
DeepMind是一家位于英国伦敦的人工智能初创企业,公司网站信息显示,DeepMind公司是一家“前沿”企业,专业利用最好的构机器学习和神经系统科学构建强大的通用学习算法,网站信息还显示,DeepMind主要建立用于模拟、电子商务以及游戏的学习算法。
据知情人士透露,谷歌实施此次交易很大程度上是为了获得人工智能人才,谷歌首席执行官拉里·佩奇(Larry Page)亲自主导了这笔交易。
谷歌的这一最新收购,距离其宣布成立使用量子计算机、推动机器学习的新型实验室尚不足一年时间。
谷歌公司最近专注于人工智能的发展。科学家利用谷歌公司建立起的名为“X”的神秘实验室,创建了一个连接1.6万台的计算机神经网络,并将获取的信息反馈至互联网。该网络的性能超出了研究人员的预期,精确度达到了预期的两倍。
好文章,需要你的鼓励
RGPO用"临时脚手架"破解大模型强化学习的奖励稀疏难题:先让模型独立解题,失败则分段放出标准解法引导重写,仅采纳经验证更优的答案。难题测试准确率从0跃至99.5%,语言模型平均分高出最强基线5.0分。
论文提出用MoE模型的路由器输出作为跨语言对齐目标,通过持续预训练对翻译句对施加路由KL散度损失,在不改变分词和架构的前提下让隐藏表示更接近,并在四个开源MoE模型、七种语言上验证了下游任务性能的一致提升。
DiffGate提出难度门控的教师指导机制,让验证器决定何时需要教师介入,仅对失败且困难的轨迹提供有界教师指导,结合GRPO强化学习,在数学与代码任务上显著提升解题覆盖率与跨领域迁移能力。
研究者用固定不变的16位二进制编码替代传统可训练词嵌入表,在17亿参数规模模型上训练1000亿token,证明模型仍可获得实质语言能力,揭示输入表并非必需,但性能略逊于可学习方案。