“所有智算中心的运营者都应该自问一句:我们的价值何在?”

数字化浪潮的推动下,智算中心作为新兴的计算力基础设施,已成为产业发展的新热点。因此,作为算力基础设施的“同行”,原IDC服务商们也“顺手”做起了智算中心的运营。

但是,智算中心不仅仅是通用数据中心的升级版,它们通过高性能计算、大数据处理、以及人工智能等技术,为各行各业提供强大的数据分析和处理能力,“风火水电”已经无法概括一个智算中心运营商的核心价值。

在12月12日举办的第十八届中国IDC产业年度大典(IDCC2023)上,始智AI联合创始人、CTO黄新平详细分析了算力的演进和智算中心建设当前的挑战和机遇,并且提出了“算力中心服务商价值何在?”这一振聋发聩的问题。

始智AI联合创始人、CTO黄新平

始智AI联合创始人、CTO黄新平

算力的演变

智算中心的核心在于算力。从高性能计算到云计算,再到现在的智算中心,算力的含义和计算方式都在不断演变。当前,智算中心面临的挑战包括算力芯片的供应限制、大模型应用场景的不清晰、以及服务资源配置的不确定性。

智算中心运营商的价值在于其能够提供稳定、高效的算力服务。他们不仅需要关注硬件的投入和维护,更要在软件能力、运营管理、以及服务保障上下功夫,以满足不同客户的需求。

“现在很多智算中心,通常只是购买了GPU出租算力。”黄新平表示,只是通过租售硬件算力,这是一种非常粗放的商业模式,会受到硬件价格、用户变动等市场因素影响,抵抗市场波动能力较弱。

服务市场的挑战

“从长远角度看,很可能95%的需求都来自服务需求。”黄新平认为,未来,智算中心的主要需求将来自于服务市场。一般来说,智算中心可以为用户提供的服务包括以下几种:

基础设施服务:这一服务模式与传统的数据中心托管类似,不过需要更多的关注供电、散热以及网络链接等。

数据及应用服务:包括训练服务、推理服务,以及数据的采集、清洗、标注、转换、存储等数据处理服务。

调度服务:为大模型等智算服务的运行提供弹性的计算、存储、网络等资源,以及服务的编排、保障、监控等功能。

黄新平分析,随着所谓“百模大战”的发展和落幕,智算产业将很快迎来变化冲击,服务将取代单纯的算力租赁成为业务主流。

“大模型是‘活’的,随着数据增长和业务变化,大模型要不断进行训练,”黄新平提出,大模型的“微调”是一个长期需求,并且会在未来成为主要需求,更多的工作将集中在数据处理上。

因此,在未来,数据处理能力和推理服务讲是智算中心的两大核心功能。数据处理关乎模型训练的质量和速度,而推理服务则直接影响到业务逻辑的实时响应和执行效率。

但是,对于当前的算力中心服务商来说,无论是数据的清洗、标注、转换,还是弹性扩展、多租户资源隔离、调度等,都是新领域,需要更多的团队、技术及资金投入。

“整个服务体系,底层是计算和异构的支持,网络/RDMA,计算、存储、网络,再往上面是局部的算力调度,加上算力服务,加上服务的编排。”黄新平历数智算中心服务商将面对的服务挑战:“这些服务能力建设周期长、成本高,如何回收成本乃至盈利是个大问题。”

对于正在发展中的智算产业,或许没有人可以对这些问题给出明确回答。但无论如何,我们应该认识到,智算中心服务商的价值不仅在于提供空间、电力乃至算力,更在于如何将这股力量转化为推动产业发展的动力。只有通过不断探索和创新,适应快速变化的技术和市场需求,才能在数字经济时代中占据一席之地。

关注中国IDC圈官方微信:idc-quan 我们将定期推送IDC产业最新资讯

查看心情排行你看到此篇文章的感受是:


  • 支持

  • 高兴

  • 震惊

  • 愤怒

  • 无聊

  • 无奈

  • 谎言

  • 枪稿

  • 不解

  • 标题党
2024-01-26 11:48:34
2024-01-24 09:22:04
人物访谈 【算力之声】恒华数字科技集团陈兴华:算力爆发驱动技术发展,更多行业标准亟需制定
绿色低碳、算力调度、算网融合、可持续发展,恒华数字科技集团有限公司董事长陈兴华给出了数据中心发展的关键词。 <详情>
2024-01-17 10:05:01
国内资讯 天开智算将在津建设200P智算中心
智算服务器服务人工智能领域的成本是传统服务器的十分之一。 <详情>
2024-01-16 11:06:01
国内资讯 算力突围:打造AI浪潮下的坚实底座
算力紧缺,已成为影响我国大模型产业发展重要因素。 <详情>
议程揭晓丨12月20日算力技术创新与应用系列论坛
2024-12-09 15:47:29
采访普洛斯数据中心郭仁声:智算时代 我们需要怎样的算力与数据中心
2024-12-09 11:44:05
5040机架 内蒙古云著智算产业园项目一期封顶
2024-12-06 14:24:19
马斯克超级计算集群再升级:xAI扩大GPU规模至百万
2024-12-06 14:21:34
未来10年的智算中心应该怎么建?|12月20日北京,AI算力建设系列论坛将启
2024-12-06 11:44:36
亚马逊发布超级计算机集群和新型AI芯片服务器
2024-12-05 14:54:16
12月20日北京,聚焦区域算力生态|2024算力产业生态高质量发展大会
2024-12-05 11:27:14
以用户需求为核心,科华数据领航高端定制数据中心新赛道
2024-12-04 15:52:50
英特尔CEO突然宣布退休 数据中心芯片竞争力不足或是主因
2024-12-04 10:12:00
莲花控股终止与新华三6.93亿订单:已自持700台算力服务器
2024-12-04 10:06:00
头部算力企业将悉数亮相、大咖云集,完整议程重磅公布|12月19-20日,北京,第十九届中国IDC产业年度大典重磅启幕
2024-12-04 09:54:00
总机柜1.8万个 兴业银行贵安新区数据中心开工
2024-12-03 10:07:00
SUSE推出一站式可观测性平台SUSE Cloud Observability 助力Rancher社区用户告别多工具监控
2024-11-28 15:19:38
800亿 17座数据中心落地马来西亚雪州
2024-11-28 14:53:32
5万机架 中国移动高原大数据中心(二期)开工
2024-11-28 14:47:35