1-Bit Bonsai Image 4B: バイナリ/ターナリFLUX.2によるデバイス上画像生成

PrismMLはBonsai Image 4Bをリリースしました。これはFLUX.2 Klein 4Bをバイナリおよびタータリー量子化したコンパクトな画像生成モデルファミリーです。拡散トランスフォーマーの重みは{−1, +1}（1ビット）または{−1, 0, +1}（タータリー）で表現され、FP16のグループワイズスケーリング係数を持つため、実効ビット数はそれぞれ1.125および1.71ビットとなります。

主な仕様

• 1ビットBonsai Image 4B：トランスフォーマーのフットプリントは0.93 GB（FLUX.2 Klein 4BのFP16版7.75 GBから8.3倍削減）。Apple Siliconペイロード（圧縮テキストエンコーダ＋FP16 VAE含む）は3.42 GB。
• タータリーBonsai Image 4B：トランスフォーマーのフットプリントは1.21 GB（6.4倍削減）。Apple Siliconペイロードは3.88 GB。
• 512×512生成時の平均アクティブメモリ：1.5 GB（1ビット）/ 1.96 GB（タータリー）（元のFLUX.2 Klein 4Bは11.74 GB）。
• 1024×1024の場合：1.95 GB / 2.38 GB（元は14.39 GB）。

パフォーマンスベンチマーク

このモデルはApple Silicon（iPhone、iPad、Mac）上でMLXの低ビットパスを介して、またCUDA GPU上でGemliteの低ビットGEMMカーネルを介して動作します。生成時間は以下の通り：

• iPhone 17 Pro Max：512×512画像で9.4秒
• Mac M4 Pro：512×512画像で約6秒（標準のフル精度MFLUXパイプラインより最大5.6倍高速）

トランスフォーマーの削減はバイナリ/タータリー層（FP16比で約14倍/10倍圧縮）により達成され、精度に敏感な少数の射影層（約5%）はFP16のまま維持されます。モデルはGenEval、HPSv3、DPG-Benchで品質とプロンプト忠実度が評価されています。

対象ユーザー

デバイス上（ラップトップ、スマートフォン、エッジデバイス）で画像生成を展開する開発者で、オープンウェイトと実用的なローカル推論をクラウド依存なしに必要とする方。