サンバノバ・システムズ

SambaNova Systems

データフロー型の AI 推論システムを開発する米国サンノゼの企業

概要

独自の Reconfigurable Dataflow Unit（RDU）を中核に、AI 推論向けのチップとラックシステム、クラウドサービスを提供する。データフロー方式と三層メモリ構成により、多数のモデルの同時稼働や低消費電力での推論を狙う。第5世代の SambaRack SN50 はエージェント型 AI の高速推論向けで、最大256基の連結と1,000万トークン超の文脈長に対応するとしている。顧客は企業や政府、ソブリン AI、クラウド事業者で、SN50 の初号顧客はソフトバンク。Intel とはクラウド規模の推論で複数年の協業を結ぶ。2017年設立、本社はカリフォルニア州サンノゼ。

創業の背景

SambaNovaは2017年にカリフォルニア州パロアルトで設立された。共同創業者のロドリゴ・リャンが最高経営責任者、クンレ・オルコトゥンが最高技術責任者を務める。同社は、基盤モデルがAIとディープラーニングの価値を引き出す方法を変えつつあるとの認識から、AIスタックの各層で革新を進め、次世代のAI計算の基盤となる統合プラットフォームを提供することを目指した。リャンCEOは、顧客の関心が「AIが機能するか」から「安全かつ採算の合う形で大規模に運用できるか」に移ったと述べ、その問いに答えるために同社を作ったと説明している。

出典: sambanova.ai / sambanova.ai