Goodfire

モデルの内部を検査し制御する解釈可能性の研究機関

概要

Goodfire studies how neural networks represent concepts internally and builds tooling to inspect and modify those mechanisms directly. The aim is to make advanced models debuggable and intentionally engineered rather than opaque. The company is scaling partnerships across AI agents and life sciences applications. Headquartered in San Francisco, California.

創業の背景

Goodfire はサンフランシスコに本社を置く公益法人（PBC）で、OpenAI と Google DeepMind で解釈可能性（インタープリタビリティ）の分野を切り開いた研究者らが創業した。チーフサイエンティストの Tom McGrath は DeepMind で研究チームを率いた人物で、同社に専念するため転身したと同社は述べている。初期は South Park Commons の窓のない一室をオフィスにしていたという。創業の動機は、最先端モデルがブラックボックスのまま重要な判断を下し、挙動も科学的に十分理解されていないという問題意識にある。

出典: www.goodfire.ai / www.goodfire.ai / www.prnewswire.com