
近日,数人云联合清华大学交叉信息研究院开放计算项目实验室(OCP实验室)完成“百万并发”压力测试,数人云DCOS通过10台OCP服务器成功承载了百万并发HTTP请求,这一技术突破将有效帮助企业解决高并发流量带来的业务瓶颈。
2015年6月,Facebook资助清华大学交叉信息研究院,成立中国唯一的一家OCP实验室,自2015年9月开始,数人云和清华大学交叉信息研究院助理院长徐葳博士合作在OCP实验室开展数据中心方面的相关研究工作。数人云在数十台OCP服务器上部署了数人云DCOS,并进行了广泛的性能测试。
数人云认为,云计算整体的弹性实现需要通过IaaS的资源弹性加上PaaS的应用弹性,再加上顶层SaaS的服务弹性。专注于PaaS层的数人云在分布式框架下,将各种应用封装在Docker容器里,通过打造轻量级的PaaS实现极致的应用弹性。数人云DCOS为数据中心提供了一套统一的管理应用和资源的方法,极大地简化了开发和运维的复杂度,为应用提供良好弹性的同时,显著提高资源利用率。
数人云DCOS为数据中心提供了开源的应用管理和资源管理解决方案,它可部署在公有云、私有云以及混合云上,帮助用户在云端快速建立并稳定运维一个高性能生产环境。作为业内最轻量级的PaaS平台,数人云DCOS向下将底层服务器资源统一管理成一个资源池,向上承载用户的应用,帮助用户快速整合不同环境下的计算资源,部署海量应用。基于领先的Mesos和Docker技术,数人云DCOS为用户的业务系统带来高可用的服务质量,高效的资源利用以及便捷的可视化管理和监控,同时,数人云DCOS还可以保证用户的计算资源和数据完全为用户私有可控。
数人云创始人兼CEO王璞展示了数人云DCOS在OCP服务器上做百万并发压力测试的性能状况,数人云DCOS提供了整个压测环境的安装部署和运行,包括压测工具Tsung、负载均衡器HAProxy、Web服务器NginX等等。数人云DCOS把压测环境涉及的所有程序都封装在Docker容器里,管理调度整个压测环境运行的数千个Docker实例。
数人云DCOS在数十台OCP服务器上部署Tsung,模拟每秒一百万用户HTTP请求,在4台OCP服务器上部署HAProxy,在6台服务器上部署NginX,4台HAProxy负责把一百万用户请求分发到6台NginX服务器上,这6台NginX服务器来处理一百万用户HTTP请求。数人云DCOS对HAProxy和NginX进行深度调优,每台HAProxy服务器(48核CPU、140G内存、万兆网卡)可以处理27万并发HTTP请求,每台NginX服务器(32核CPU、140G内存、万兆网卡)每秒可以处理19万HTTP请求(NginX的HTTP响应为Lua脚本做的动态页面,以防止静态HTTP页面被缓存)。
纵坐标-绿色代表用户数,蓝色代表链接数
横坐标-时间轴,单位秒
纵坐标-绿色代表成功处理数量,蓝色代表失败数量
横坐标-时间轴,单位秒
数人云DCOS最终仅用10台OCP服务器就承载了百万并发HTTP请求,用Tsung模拟每秒钟100万个用户的并发请求,每秒平均处理85万请求。
据悉,数人云创始团队来自谷歌、红帽和惠普,在今年3月初公司刚刚宣布完成A轮融资。数人云致力打造下一代DCOS,基于Docker+Mesos的技术理念,将应用弹性做到极致。通过最轻量化的PaaS平台,数人云实现一站式的微服务架构集群系统,最大化地帮助客户实现应用业务在云端的快速部署,解决从客户到云资源的最后一公里。
好文章,需要你的鼓励
论文提出CAST框架,通过多智能体系统把任务成败的粗略反馈转化为逐步动作的详细批评理由,训练出更懂节制的批评模型,再用它优化执行策略,让8B小模型在可靠性指标上反超120B大模型,提升智能体在真实动态环境中的稳定表现。
论文提出NavMCP框架,用意图、观察、记忆三条通道把VLM推理与导航基础模型NFM结合,解决具身问答中长距离探索问题,在多个基准和真实机器狗测试中均取得最优效果。
研究发现教师模型批改学生生成内容时噪声率高达50%,但学生依然能进步。作者发现真正起作用的是压制学生自己低概率词,据此提出无需外部监督的OPSA方法,在AIME24等数学测试上带来最高307%的提升。
PaperGym提出一套把科研论文转化为AI训练环境的方法,解决科研计划生成缺乏可验证奖励的难题,通过问题答案分离降低评分标准泄露,结合自蒸馏与强化学习两阶段训练,让小模型在多个基准上超越更大规模的商业模型。