在上海举办的2023世界人工智能大会上,AI大模型对医疗、制药行业带来的创新想象,成为一个热点话题,大模型时代后,多模态AI通用化成为医疗领域未来趋势,而医疗与每个人息息相关,AI赋能医疗创新,更是每个人的呼声,在这样的背景下,至顶科技采访了复旦大学复杂体系多尺度研究院院长马剑鹏,马剑鹏提醒,AI赋能了医药创新,但AI不是万能的,不要过分迷信AI。
图:复旦大学复杂体系多尺度研究院院长 马剑鹏
至顶科技:复杂体系多尺度研究究竟是什么样的研究,AI为这一研究起到了什么样的作用?
马剑鹏:我们是做生物计算的研究,复杂体系多尺度研究院致力于发展全新而有效的、贯通微观分子结构直至宏观医学成像的多尺度影像分析技术,为解析生命奥秘提供前所未有的,囊括分子、细胞、组织、器官乃至整个生物体的时空影像数据。面向国际前沿,研究院利用用人工智能、大数据方法结合传统实验手段展开分子生物学、化学、物理学等交叉领域的研究。
我们是做分子层面的研究,AI赋能医药的创新,不管是宏观的医学问题,还是微观的制药问题,都在发挥作用。比如说,制药,AI可以帮助加快医药研发的速度和安全性,这是毋庸置疑的。无论是实验,还是计算,AI都在起赋能作用,比如今天的医学创新,在宏观层面上AI在赋能。说到药物又是一个微观问题,不管是大分子,还是小分子,抑或是中药,也有有效成分问题,在制药这样的微观层面,AI也在赋能。
在今天AI发展的这个拐点时刻,技术的长处和短处都要被看到、被看请。
至顶科技:AI的哪些负面影响需要让我们引起注意?
马剑鹏:AI大模型训练是平均的,在某些应用场景,可以做的比大多数人好,可能在头脑风暴的时候,会需要这样的训练结果,但在大部分场景里,是需要精准答案的。如果正儿八经的胡说八道,在人命关天的时候,还是不是可信,这就是一个很严肃的问题。
针对某个问题时候,在人群里是大平均,但针对某个人的健康问题,又是个性化的。每个人都不一样,每个人又要随着时间变化来看。可能今天你的指标是正常的,但是随着时间的推移,也会发生变化。
更重要的是,以人的个体为单位来看,每个人天生禀赋不同,会有很大差距。有的人经常会喝酒吃肉,这不是一个好的生活习惯,他可能很长寿,有的人过得谨小慎微,却不能长寿。有些人血压高的两百,他工作、生活都很正常,有些人血压一百五,可能就浑身不自在。这些都决定了,每个人都是不一样的个体,是纵向的个体,而大模型是横向思维,每个人是大模型中的平均数。
在医学领域,特别是在今天精准医疗的背景之下,大家去医院,检查完,要么是生病,要么就是健健康康的,但其实在健康和生病之间,还存在一个亚健康的状态。有些提示的指标,显示亚健康问题,会在大模型的人群里被打了平均分,但有些问题是针对一个个个性化的。
类似这样的问题,就是纵向问题,这些纵向问题问题,就需要个性化的解决,就是AI所不能的。
至顶科技:大模型对科研的最大帮助在哪里?
马剑鹏:作为一个AI的用户,用AI来获取知识的速度很快,学一个专业,可以很快掌握。如果把通用模型训练成一个科研助理,那会对科研有很大帮助;抑或是训练成一个竞争对手,寻求去打败这个对手,AI可以发挥很好的作用。
不只是在西医、制药的层面,在中医的范畴里,中医的望、闻、问、切的逐渐智能化也是可及的。
好文章,需要你的鼓励
AIM Intelligence联合多所知名大学揭示了音频AI系统的重大安全漏洞,开发出名为WhisperInject的攻击方法。这种攻击能让看似无害的音频指令操控AI生成危险内容,成功率超过86%,完全绕过现有安全机制。研究暴露了多模态AI系统的系统性安全风险,对全球数十亿智能设备构成潜在威胁。
新加坡国立大学研究团队系统梳理了视觉强化学习领域的最新进展,涵盖超过200项代表性工作。研究将该领域归纳为四大方向:多模态大语言模型、视觉生成、统一模型框架和视觉-语言-动作模型,分析了从RLHF到可验证奖励范式的政策优化策略演进,并识别出样本效率、泛化能力和安全部署等关键挑战,为这一快速发展的交叉学科提供了完整的技术地图。
浙江大学研究团队通过OmniEAR基准测试揭示了当前AI模型在物理世界推理方面的严重缺陷。测试显示,即使最先进的AI在明确指令下能达到85-96%成功率,但面对需要从物理约束推断行动的任务时,成功率骤降至56-85%。研究发现信息过载反而降低AI协作能力,监督学习虽能改善单体任务但对多智能体协作效果甚微,表明当前架构存在根本局限性。
纽约大学和Aimpoint Digital Labs的研究团队首次揭示了Transformer模型训练中"大规模激活"的完整发展轨迹。这些影响力比普通激活大千倍的"超级激活"遵循可预测的数学规律,研究者开发出五参数公式能以98.4%准确率预测其变化。更重要的是,通过调整模型架构参数如注意力密度、宽深比等,可以在训练前就预测和控制这些关键激活的行为,为设计更高效、量化友好的AI模型提供了全新工具。