企業のAI投資、コスト可視化を追い越す
企業のAIインフラ投資が急加速する一方、利用率や実コストを把握して管理できる企業は限られている。
なぜ重要か
- •AIインフラの投資判断が、実際の費用対効果の把握を上回っている。
- •GPUの低稼働率が、AI導入の総保有コストを押し上げる可能性を示す。
- •単価だけでなく統合性と総保有コストが、インフラ選定の判断軸になっている。
- •複数のクラウドやモデル提供者を組み合わせる運用が広がる可能性がある。
数字で見る
- •調査対象は107社。
- •GPU稼働率は半分以下の企業が多い。
- •AIインフラの提供者を年内に切り替え・追加する意向を持つ企業が多数。
転用先
原文概要
107社を対象にした調査では、企業のAIインフラ支出が、経済性を把握・管理する能力を上回るペースで増えている。多くの企業でGPU稼働率は半分以下で、実際の計算コストを厳密に追跡している企業は半数未満だった。企業はトークン単価より、統合性と総保有コストを重視している。