DeepInfra

GPUを自社保有し低コストな推論を提供するAI基盤クラウド

概要

DeepInfra runs a vertically integrated, GPU-owned cloud platform delivering low-cost, high-throughput inference for open-source and agentic AI models. Headquartered in Palo Alto, California.

創業の背景

DeepInfra は2022年9月に設立された、AI推論クラウドの企業である。共同創業者のNikola Borisov 氏、Georgios Papoutsis 氏、Yessenzhar Kanapin 氏らは、利用者2億人規模のメッセンジャー imo のバックエンド基盤を構築・運用した経験を持つ。同社は、AIモデルの学習に膨大な資源が注がれる一方、本番環境でモデルを動かす基盤が遅れているという課題を見いだした。imo の経験から、自前で基盤を持つ方がクラウドより費用や性能、信頼性を制御しやすいと考え、その知見をAI推論に応用してGPUからAPIまでを自社で構築した。

出典: deepinfra.com / deepinfra.com / www.felicis.com