Modal Labs

PythonでGPUを秒単位に呼べるサーバーレス基盤を提供する米国企業

概要

AI向けのサーバーレス計算基盤を提供する。PythonのSDKで処理内容と必要なハードウェアを同じコードに記述し、コンテナ起動を1秒未満に抑えて0台から1000台超のGPUまで自動で増減させる。B200やH100、A100などのGPUを複数クラウド・複数リージョンで扱い、LLMや画像・音声生成の推論、ファインチューニング、大規模な並列バッチ処理、信頼できないコードを隔離実行するSandboxesに使われる。顧客としてDoorDash、Cognition、Ramp、Suno、Physical Intelligenceなどが挙げられている。拠点はニューヨーク、サンフランシスコ、ストックホルム。

創業の背景

Modalは、データ、AI、機械学習のアプリケーションを反復し出荷しやすくすることを目標に、エリック・ベルンハルドソン氏とアクシャット・バブナ氏が創業した。ベルンハルドソン氏はSpotifyで次に再生する曲を決める仕組みを作り、その後Better.comのCTOを務め、ワークフロースケジューラLuigiや近傍探索ライブラリAnnoyをオープンソース化した人物である。投資家のGeneral Catalystは、両社でエンジニアがDockerfileやKubernetes、GPUドライバとの格闘に時間を取られ、データ製品の開発に集中できなかったという経験がModal創業の発端だったと説明している。同社は理想の開発者体験のため独自のインフラを構築したと述べている。

出典: modal.com / www.generalcatalyst.com