"Netflixのシニアエンジニアであるテジャス・チョプラ氏が、LLMに送信される冗長なトークンを削減するツール「Project Headroom」を開発した。 このツールは1月以降、ログやJSON、メタデータの圧縮を通じてユーザーに推定70万ドルのコスト削減をもたらした。 可逆圧縮機能を備えており、必要に応じてLLMが元のデータを取得できる仕組みとなっている。"