AIエージェントの普及に伴うトークンコストの爆発にどう挑むか。HPEの年次イベントで、ルッソCTOは外部モデル依存による隠れたコストを指摘。推論を自社データセンターへ回帰させるためのインフラ戦略を、AMDの事例とともにレポートする。
No related posts.