Kimi K3 by Moonshot now available on Modal
Modal は、Moonshot の Kimi K3 を自社プラットフォームで提供開始したと発表した。Kimi K3 は 2.8 兆パラメータのマルチモーダルモデルで、100 万トークンのコンテキストウィンドウを持つ。Modal のインフラ上では独自に学習させた DFlash スペキュレータを用いて毎秒 460 トークンを実現し、応答性が 360% 向上、スループットは 88% 増加したという。Team および Enterprise の顧客はトークン課金の Shared API 経由で利用できるほか、専用の Auto Endpoint としても実行できる。