微信扫一扫,关注公众号

  • 科技行者

  • 算力行者

见证连接与计算的「力量」

首页 大话“东数西算”(中)

大话“东数西算”(中)

2022-04-19 12:09
分享至:
----..---.-...-/--...-.-......./-...-....-..--../-............-.- ----..---.-...-/--...-.-......./-...-....-..--../-............-.- ----..---.-...-/--...-.-......./-...-....-..--../-............-.- ----..---.-...-/--...-.-......./-...-....-..--../-............-.-
2022-04-19 12:09 孙封蕾

上篇的《大话“东数西算”》里,说到了东数西算是一种数据和计算的资源调配,但这种资源调配,和“南水北调”、“西气东输”又是大不同的。

小美:资源平衡可以理解,但数据的动态平衡,是啥意思来?

悟空博士:大家不能简单的理解为东部的数据都要拿到西部去计算。如果这样简单看,没毛病,但并没用厘清“东数西算”的大规划。数据的动态平衡是要先分清楚数据的分类,以此为基础,来理解东数西算了。

小美:悟空博士,那你快来说一说,数据怎么分类?

悟空博士:数据也有很多分类,从应用角度来看,数据可分为热数据和冷数据。热数据就是需要频繁访问,对计算实效有较高要求的数据,比如我们点外卖,当然需要系统及时的响应,那么这个数据就是热数据。简单理解,就是我们经常用到的数据。

小美:有热,就有冷吧?

悟空博士:对,还有一部分就是冷数据,我们偶尔访问一下,对计算的时效性要求并不高,比如我们归档的电子邮件,偶尔想起来时候才会去看一眼。

小美:我知道了,冷数据和热数据既然是按照平常用的应用频率来区分的,那么,这样的区别,具体在“东数西算”中如何体现?

悟空博士:东数西算中的“数”,要看的是冷数据和热数据之间的平衡,热数据尽量留在距离用户近的东部,而冷数据则运到距离用户较远的西部,数据的动态平衡,放在这里,就是要随着数据的冷热进行动态的平衡。

小美:这种动态平衡延伸开来,也会引发一系列效应吧?

悟空博士: 是的,算力在寸土寸金的东部自然要更贵一些,而在自然资源丰富的西部则更具价格优势。但成本同样需要考虑到,数据往返运送所涉及到的网络成本,以及往返的时间成本等。

小美:东数西算是全国一盘大棋,考量的会更多吧?

悟空博士:对头,东数西算既要考虑算力成本,也要考虑往返的网络成本以及时间成本,是结合成本考量后的平衡布局,确保相关数据的计算能保持一个成本最优解。

当然,“东数西算”实现的是更大意义上的平衡。西部的数字经济也会随着算力中心的潜移,而最终受益。

小美:西部能够接收东部的数据,说明西部也有一些条件是适合来接收的,这其中有哪些契机。

悟空博士:电力成本、土地成本、人才成本放在西部,就降低了许多,因此,西部的算力就比东部的整体算力成本低,是弥补东部算力不足的划算选择。这些都是大家很容易想到的理由。

小美:那肯定还有很多大家不容易想到的理由了。

悟空博士:首先,技术是最不容忽视的,跟以往的资源调度所不同,“东数西算”之所以能提出,因为有了新的契机:网络能力逐步提升,互联网架构也在调整,这些让“东数西算”成为可能。

小美:过去的网络不能实现这样的传输吗?

悟空博士:过去的网络传输能力还是有点“心有余,力不足”。传输海量的数据,需要有强大的网络。

曾经有一个段子,亚马逊为了计算处理数据,公司用货车拉硬盘到数据中心来处理,而不是像想象中的那样用“云”。

小美:原来还有这么一回事啊,下次咱们继续说。

作者:

中国信通院云大所副总工程师 王蕴韬

科技行者执行总编辑 孙封蕾

大话“东数西算”

分享至
0赞

好文章,需要你的鼓励

孙封蕾

Leila
潜心研究算力,抓住每一束光。
推荐文章
  • 奖励设计:让AI学会智能使用工具的关键
    2025-04-23 17:39

    奖励设计:让AI学会智能使用工具的关键

    想象一下,你有一个非常聪明的朋友,他知道很多知识,但每当需要使用计算器、搜索引擎或查询最新天气时,却变得像个笨手笨脚的孩子。这正是当前大语言模型(简称LLMs,如ChatGPT这类AI系统)面临的尴尬处境。

  • ToolRL:奖励设计是工具学习所需的全部
    2025-04-23 17:34

    ToolRL:奖励设计是工具学习所需的全部

    想象一下,你拥有一个聪明的助手,它知道很多知识,但在面对需要使用计算器、搜索引擎或查询最新信息时却显得笨手笨脚。这正是当前大语言模型(LLMs)面临的困境。虽然这些模型已经通过监督微调(SFT)学会了使用工具的基本能力,但它们常常在面对复杂或不熟悉的场景时表现不佳。

  • X-Teaming:使用自适应多智能体进行多轮越狱攻击和防御
    2025-04-23 14:08

    X-Teaming:使用自适应多智能体进行多轮越狱攻击和防御

    想象你正在和一个智能助手聊天。如果你直接要求它提供有害信息,它很可能会礼貌拒绝。但如果你通过一系列看似无害的对话,逐步引导它走向你的真实目标呢?这就是当前AI安全领域面临的一个严峻挑战——多轮对话中的安全漏洞。

  • "思考操纵":用外部思考让大型推理模型更高效
    2025-04-22 16:43

    "思考操纵":用外部思考让大型推理模型更高效

    想象你在使用一个非常聪明的AI助手完成一项复杂任务,比如解决一道数学难题。你可能注意到这个助手会花很长时间"思考",一步一步写下大量推理过程,最后才给出答案。虽然这种详细的思考过程确实帮助AI做出了更准确的判断,但同时也带来了一个明显的问题:它太"啰嗦"了,消耗了大量的计算资源和时间。

----..---.-...-/--...-.-......./-...-....-..--../-............-.- ----..---.-...-/--...-.-......./-...-....-..--../-............-.- ----..---.-...-/--...-.-......./-...-....-..--../-............-.- ----..---.-...-/--...-.-......./-...-....-..--../-............-.-