Press

Multiverse Computing、すべての CompactifAI モデルが Intel Xeon 6 プロセッサ上で動作すると発表

・ Multiverse Computing 製品・技術

Multiverse Computing Unveils Breakthrough: All CompactifAI Models Now Run on Intel Xeon 6 Processors

Multiverse Computing は、CompactifAI で圧縮した Llama 3.3 70B モデルが Intel Xeon 6 プロセッサ上で動作すると発表した。非圧縮版と比べてスループットは93.6%向上し、レイテンシは48.6%低減した。圧縮モデルは標準ベンチマークでベースライン精度の97%超を維持しつつ、ディスクサイズを約半分に削減した。PyTorch と Hugging Face に統合可能で、クラウドおよびオンプレミスにおける金融・ヘルスケア・製造の企業用途を支える。

Multiverse Computing 公式ニュースルームで全文を読む ↗

Multiverse Computing の他のリリース