AI时代的安迪比尔定律:被Token“黑洞”倒逼的基础设施革命

来源:首信信息官 链接:查看
0 评论 62 浏览 0 收藏

硅谷曾有一条著名的铁律——安迪比尔定律(Andy and Bill's Law),也就是说硬件提升的算力,总会被软件消耗殆尽。

硅谷曾有一条著名的铁律——安迪比尔定律(Andy and Bill's Law),也就是说硬件提升的算力,总会被软件消耗殆尽。
十年前,被消耗的是云算力,企业疯狂上云用数;而到了今年,这个被全行业争夺的资源,变成了一个新的词汇——Token。
在Agent全面渗透办公、制造、金融等场景的今天,Token正成为企业的硬通货。几乎每一家CEO与CIO都在被同一个现实拷问:我们买了那么多GPU、调了那么多模型,为什么这些Token依然显得笨拙,甚至跑不进核心业务?
事实上,兴奋与焦虑交织。
兴奋的是,大模型与Agent的进化能力已超乎想象;焦虑的是,模型只是入场券,数据怎么准备、算力怎么调度、记忆怎么存、成本怎么控,还有企业以前的IT资产怎么办,这些问题一个比一个现实。
站在行业观察者视角,《首席信息官》发现:企业需要的不再是一款又一款大模型,而是一套真正能高产出、低成本制造Token的新型基础设施。
这,也正是浪潮数据在2026战略新品发布会上,试图给出的答案。

业务流程正被Token重构

这几年,从追逐大模型参数到算计Token产出效率,这背后折射出的,是企业对AI认知的一次深刻去泡沫化。
今天,模型正退居幕后,被当成一种可随时替换的基础能力。而真正发生剧变的,是企业底层的业务流程本身。
浪潮数据董事长、首席科学家张东将其概括成一句话:未来企业的业务流程,将被重新定义为“Token输入—智能处理—价值输出”的闭环,这其中有三个变化正在发生。
  1. 核心工作流从纯人力转向“人机协同”。智能体不再只是回答问题,而是开始承担信息收集、任务规划、工具调用和自动化跑流程。张东引用Gartner的预测指出,两年内将有81%的组织部署智能体,重复性的脑力劳动将被大幅替代。
  2. AI能力的底座化与基础设施化。它将变得像数据库、网络、ERP系统一样,被深度嵌进生产、供应链和经营管理的核心流程。
  3. 数据飞轮效应全面爆发。智能体时代,每一次人机交互、任务执行和工具调用,都会沉淀出全新的上下文、状态、规则和经验。这些数据回流到知识库和模型,会让下一次推理与执行更精准。微软研究院的观察也印证了这一点:用少量高质量数据训练的小模型,在特定场景下的能力可超越通用大模型,差距甚至高达100倍。
“无论是AI辅助火箭发动机设计,将研发周期大幅缩短,还是新药研发里百倍加速的分子筛选……这些案例都在说明同一件事——AI创造价值的方式,已经从帮你完成单个任务变成了重构一整条生产链。”张东说。
于是,企业不禁要问,随着业务流程开始围绕数据、Token、模型和智能体高速运转时,过去建设的传统IT基础设施,还撑得住吗?

答案是:旧基础设施撞上了天花板

显然,现实很残酷,既有的IT基础设施在面对全新业务流程时,早已显得力不从心。
现在,AI产业看起来很热闹,芯片厂商超过30家,商用大模型超过500款,可企业内部的实际情况是,早年攒下的云平台和存储架构反而成了新流程的绊脚石。
比如:
  • 企业过去建设的大量云平台与数据资产不可能推倒重来,但新引进的AI算力与存储,也绝不能再演变成新的信息孤岛;
  • 除了训练用语料与行业知识库外,智能体运行过程中持续产生的历史对话、上下文、工作状态、KV Cache等动态记忆数据,直接决定了智能体能否拥有持续工作的能力,但传统存储对此束手无策;
  • 此外,芯片规格繁多、软件生态割裂,不同厂商接口互不兼容,企业不得不消耗巨大的人力财力完成底层技术适配。
把这些放在一起看,用传统的IT资产,去硬套AI时代的Token生产流程,确实很别扭,这无异于把喷气式发动机装在马车上。更何况金融、政务这类行业,出于数据安全考虑,基本只接受本地化和私有化部署。
因此,为了让私有化部署叠加AI原生业务流程,企业就迫切需要一种全新的“AI基础软件架构”来破局。

浪潮数据的答卷:业界首推AI数据操作系统

正是看到了真实的痛点,立足十年积淀,浪潮数据正式完成了面向AI基础设施的全面战略升级。
官方说法是,他们锚定“Data Inspire AI 数据激活智能”核心主线,坚持以客户为中心、以AI应用为导向、以系统设计为核心,致力于成为人工智能基础设施领导者,并同步推出了“Data Inspire AI”生态计划,打通从芯片、模型到应用的最后一公里。
而实际做法是,浪潮数据在业界首推了自主研发的AI数据操作系统,一举填补了AI“五层蛋糕”里长期缺的那一层软件,也就是夹在能源层、硬件层、大模型层、应用层中间的操作系统层。
张东解释说,AI数据操作系统并不是传统意义上的简单升级,而是被打造成AI基础设施的软件调度中枢。它向下统一管理计算、存储、网络等资源,向上支撑模型、数据和智能体运行,把原本分散的数据、算力、模型连接起来,形成统一运行环境。
而这套系统还引入了一套全新的价值衡量体系——单位Token的产出效率。
他打了个比方,卖轮胎的强调耐磨,卖发动机的强调功率,可用户只关心车跑得快不快。在张东看来,Token就是智能体的基本单元,也是衡量基础设施产出效率最合适的标尺。

双底座破局:InData与InCloud

为了支撑这一全新系统,浪潮数据推出了算力侧的InCloud和数据侧的InData的双架构设计。简单地说,它打破了传统操作系统仅管理CPU与磁盘的局限,将管理对象全面延伸至异构xPU集群、全域多模态数据与智能体上下文记忆,完整覆盖Token的生产、分发与消费三大环节。
InData:解决最基础的数据问题
浪潮数据AI存储产品部总经理刘希猛指出,有效Token调用量增长很快,但算力受电力和技术限制涨不动,两者之间形成"剪刀差"。所以,存储要往AI数据平台走,靠"以存强算"来提升Token的质效。
InData AIOS依托“玄同架构”与全新 AS13000G7全闪/高密硬件矩阵,刚好解决了这些问题。它构建了三大Any能力,让跑起来的数据十分惊艳:
  • 其一,全局数据空间(AnyWhere):用数据编织技术打通跨域、跨厂商的存储,做到EB级数据免迁移、副本减少70%、冷数据盘活率到80%;
  • 其二,玄同架构引擎(AnyTime):用数控分离和全闪落盘算法,单节点能到百GB/s带宽、百万IOPS,闪存寿命延长50%,顺带把GPU利用率拉高20%;
  • 其三,记忆与存储原生RAG(AnyType):数据落盘就完成向量化,知识就绪从天级压到秒级,幻觉率降80%,而且还做了存储级的共享KV Cache,跨任务复用记忆,把首Token延迟压低90%,省下不少GPU开销。
InCloud:承担着兑现算力的任务
浪潮数据智能云产品部副总经理张明灿表示,InCloud AIOS的目标是把复杂的硬件底层变成稳定的Token产出和智能体运行环境。
它同样有几个关键能力:
  • 跨芯池化与极致调度:可无缝兼容不同厂商的AI芯片,做跨架构的等价算力调度,再配合空间碎片归并和时间潮汐错峰,把GPU综合利用率从40%提到85%;
  • 模型引擎和Token工厂:用PD分离加KV Cache卸载,Token吞吐提升2到4倍,再叠加小模型投机解码和智能路由,生成速度再快3倍;
  • Agent DevOps:专管智能体的规模化运行。很多企业发现,AI在Demo阶段跑得很好,一上高并发就崩,浪潮数据为此做了Design & Run这套设计与运行分离的架构。它在研发期兼容Dify、FastGPT这些开源工具,生产期用安全沙箱隔离加长效记忆管理,可撑住百万级并发的智能体。

算存协同,输出协同价值

但技术终究要为商业服务。那么,InData与InCloud如何有效协同,发挥出业务价值呢?
张明灿表示,两个底座通过高速RDMA网络打通,理想状态下能形成一个闭环:高质量数据产Token、Token驱动智能体、智能体再沉淀新数据。
落到实际收益上,浪潮数据算了几笔账。
  • 成本方面:对于投入数十亿建设智算中心的大型客户,GPU利用率翻倍,这相当于直接释放数亿元的隐藏算力价值;而对于月消耗200亿Token以上的企业,私有化部署的性价比全面超越公有云。
  • 业务层面:知识库就绪时间从天级缩短到分钟级,配合长效记忆,智能体业务处理准确率从不到70%跃升至90%。
  • 架构演进方面:既兼容企业既有服务器与云资产,支持“3节点云+1节点GPU”的慢慢扩容,也提供开箱即用的软硬一体机,让不同规模的企业都能低门槛完成AI基础设施的升级。

站在新十年的起点

最后,我们总结一下。
2016年,浪潮数据成立。从当年在云计算大潮中的初露锋芒,到今年AI基础设施领域的破局引领,这关键的十年,他们完成了一次深刻跨越,更是一场对未来十年产业大势的坚定押注。
十年前,企业希望把数据存起来、管起来;十年后,企业更希望把数据激活,让它们源源不断地转化为驱动业务的智能。
正如张东所言,AI正在改变人类创新的方法,创造新的价值范式。那么,当AI数据操作系统补齐了产业前进的最后一块拼图,企业通往AI原生时代的道路,会不会终将从模糊走向清晰呢?



收藏 0打赏 0评论 0
评论
  1. 暂时没有评论,来说点什么吧