AI のエネルギー効率を1000倍改善する方法

・ アンコンベンショナルAI その他

How to improve AI energy efficiency by 1000x

Unconventional AI が、生成 AI の推論でエネルギー効率を1000倍高めるという目標と、その道筋を示している。鍵になるのはハードウェアとソフトウェアを共進化させる開発だという。障害として挙げられているのは2つで、計算そのものより電力を食うデータ移動のコストと、アムダールの法則による制約である。目標達成の手段としては、ハードウェアの特化、パラメータ効率、スパース性、Attention を使わない設計、アナログ回路の活用などが挙げられている。

Unconventional AI 公式ブログで全文を読む ↗

アンコンベンショナルAI の他のリリース