算力服务化成新趋势 企业需提前部署应对市场变局

robot
摘要生成中

算力服务成为新型商业模式,行业需未雨绸缪应对转变

大模型训练的热潮正在推动算力成为一种新的商业模式。虽然目前高端GPU短缺问题仍然存在,但行业参与者需要及时调整策略,为市场变化做好准备。

训练大规模模型需要巨大的算力投入。以盘古气象大模型为例,使用200张GPU卡进行2个月左右的预训练,成本可能超过200万元。而训练通用大模型的成本可能还要高出数十倍。目前中国已有超过100个10亿参数规模的大模型,但高端GPU短缺问题依然严峻。

为应对算力短缺,企业采取了多种措施:提高训练数据质量以提升效率;优化基础架构提高稳定性;改进资源调度提高利用率;采用超算架构降低成本;使用国产平台替代进口GPU等。但对大多数企业而言,选择专业的算力服务商是更优选择。

算力服务正在成为一个新兴产业。它将算力、存储、网络等资源进行封装,以API等形式提供服务。产业链上游提供硬件资源,中游进行算力生产和调度,下游则是各行业用户。这种模式相比企业自建更具成本和技术优势。

目前算力服务主要采用按量计费和包年包月两种模式。未来还将推进"算网一体化融合",实现跨架构、跨地域的灵活调度。云服务商也在积极布局这一领域。

虽然当前高端GPU紧缺导致行业竞争激烈,但这只是暂时现象。长期来看,算力服务化是确定趋势。服务商需未雨绸缪,为市场理性回归后的快速转变做好准备。在这个充满不确定性的市场中,能够及时调整策略的企业才能在未来占据优势地位。

此页面可能包含第三方内容,仅供参考(非陈述/保证),不应被视为 Gate 认可其观点表述,也不得被视为财务或专业建议。详见声明
  • 赞赏
  • 3
  • 分享
评论
0/400
MEV受害者互助会vip
· 11小时前
GPU太难抢了哭了
回复0
rekt_but_vibingvip
· 11小时前
gpu一卡难求啊
回复0
Ser_Liquidatedvip
· 11小时前
诶现在gpu也炒起来了?
回复0
交易,随时随地
qrCode
扫码下载 Gate APP
社群列表
简体中文
  • 简体中文
  • English
  • Tiếng Việt
  • 繁體中文
  • Español
  • Русский
  • Français (Afrique)
  • Português (Portugal)
  • Bahasa Indonesia
  • 日本語
  • بالعربية
  • Українська
  • Português (Brasil)