前几天有投资人放话,说人工智能这波热度里藏着泡沫。黑石集团总裁乔恩·格雷不太认同。他的理由挺有意思:传统泡沫是先建产能、再等需求上门;AI 这边是产能还在建,需求已经追着跑。他还提到自家与 Anthropic 合办的 AI 咨询公司,说客户需求近乎抛物线式增长,根本跟不上。
这话听着像资本圈的口水战,但落到做技术的人身上,其实是个很具体的信号:需求曲线陡了,基础设施就得提前把位置占好。等业务真的冲上来再去扩容,往往已经晚了。
抛物线式增长,压在哪一层
AI 业务对服务器的消耗,和普通网站不是一个量级。推理请求要 GPU、要大内存、要低延迟的存储读写;模型迭代又要求环境能快速重建。更麻烦的是流量形态——平时平稳,一个功能上线或一条爆款内容,请求量能在几小时内翻几倍。
这种忽高忽低的负载,最怕两件事:一是资源被邻居挤占,二是扩容周期太长。共享型的虚拟化环境在高峰期容易出现性能抖动,而真正跑推理、跑数据处理的任务,更吃独享的算力和稳定的 I/O。所以不少团队会把核心业务放在物理服务器上,图的就是资源不被切分、性能可预期。像新酷云的物理服务器这类产品,主要价值也在这里——不是配置多花哨,而是把整台机器的算力交给你自己调度,适合负载波动大、对稳定性敏感的 AI 相关业务。
需求涨得快,选型反而要慢下来
格雷说“建产能的同时希望跟得上需求”,翻译成运维语言就是:别把架构做死。我有几个建议,都是从踩坑里总结的。
- 先分清业务是推理型还是训练型。推理看重响应和并发,训练看重显存和长时间满载的稳定性,两者对机器形态的要求不一样,别用一套方案硬套。
- 把扩展路径想清楚。是加机器横向扩,还是升配置纵向扩?前者要求调度和负载均衡跟得上,后者要求服务商能快速交付。租用比自建灵活的地方就在这,业务起量时不用等采购流程。
- 数据落地的位置要提前确认。涉及用户数据的业务,存储区域、访问链路、日志留存都得在部署前定好,别等上线了再补合规动作。
换个角度看,需求抛物线式增长的另一面是风险也在放大。业务越热,越容易成为攻击目标,DDoS、爬虫、恶意刷接口都会跟着来。做内容分发或多站点运营的团队,如果同时管着多个域名和站点,站群服务器能省掉不少隔离和管理的麻烦;而有被攻击前科或处于敏感行业的业务,高防服务器把清洗能力前置,比事后救火划算得多。
别被“泡沫”两个字带偏
争论有没有泡沫,对一线做部署的人意义不大。真正要判断的是:自己的业务需求是真实增长,还是短期热度。如果是前者,基础设施就该按可扩展的方式铺,先从一台物理服务器跑通核心链路,再根据监控数据决定加机器还是换形态;如果是后者,控制成本、保留弹性更重要,别一次性把资源压满。
格雷那句话里最值得琢磨的,是“希望自己能够跟得上需求”。跟得上,靠的不是赌,而是提前把选型、扩展和防护三件事想明白。需求真来了,你手里有牌;需求没来,也不至于被闲置资源拖住。