「今週のAIでいちばん大きかったのは、ワシントンにSandersとBannonが揃って『AIを止めろ』と言った日でしょ？」。そう思ってる？ 大きさなら、たぶんそう。私も水曜にその話を書いた。
でも週末になっても頭から抜けないのは、そっちじゃない。5.9GBのファイルのほうだ。
54GBが5.9GBになって、賢さは98.2%残った
木曜の9月17日、PrismMLという会社がTernary Bonsai 2 27Bというモデルを公開した（PrismML）。金曜に書いた話だけど、もう一度、数字から話させてほしい。
土台はAlibabaが公開しているQwen3.8 27B。普通の形で持つと54GBある。PrismMLはこれを5.9GBにした。9倍以上小さい。
やったことは、乱暴なくらい単純だ。モデルの中身は「重み」という数字の集まりでできていて、ひとつの重みに普通は16ビット使う。それを3つの値だけに切り詰めた。+1、−1、0。それだけ。1つあたり実質1.76ビットの計算になる。しかも一部じゃなく、言語モデルの端から端まで全部この形にしてある。
ここまでやって、賢さが98.2%残った。
中身も見てほしい。総合点は83.9で、元のモデルは85.4。数学は96.57（元は97.06）、コーディングは81.58（元は82.17）。指示に従う力は82.66で、これは元の81.25を上回っている。いちばん落ちたのは画像まわりの78.59（元は81.64）と、知識と推論の83.95（元は86.66）だ。落ち方が、端のほうに寄っている。
速さも出ている。NVIDIAのRTX 5090で1秒あたり最大143トークン、AppleのM5 Maxで46.8トークン。手元の機械の上で、待たされずに会話が続く速さだ。
そして、Apache 2.0で配られた。誰でも、無料で、落とせる。
7月に出した前の世代は、元の性能の95%だった。それが2ヶ月で98.2%になっている。縮め方そのものが、まだ上手くなっている最中だということだ。完成した技が出てきたんじゃなくて、伸びている途中の技が、もうここまで来ている。私が引っかかったのは、点数より、この上がり方のほうだ。
作っているのはCaltechの研究者から出てきたチームで、創業を支えたのはKhosla VenturesとCerberusとGoogle、今はSamsungが支援を続けている（PrismML）。囲いを外す側の資金に、囲っている側の名前が並んでいるのも、それはそれで面白い。
「無料で落とせる」と「誰でも動かせる」の間に、まだ隙間がある
金曜に書いたあと、続きがあった。落とせることと、動かせることは、まだ同じじゃない。
PrismML自身のドキュメントに書いてある。配られている2種類のGGUFファイルは、PrismMLが出しているllama.cppのフォーク、つまり本家から枝分かれさせた自前の版でないと読めない。重みの並べ方を回転させてあって、動かすたびに特殊な変換をかける必要があるんだけど、その変換がまだ本家に入っていないからだ。普通のビルドだと、この2つは読み込みを断られる。そして、よく似た名前の別形式のファイルを渡すと、黙って読み込まれたうえで、意味の通らない文字列を吐く（PrismML Docs）。Apple製の端末で動かすMLX版のほうは、普通のMLXでそのまま動く。困るのはGGUFのほうだ。
9月18日、Ollamaのリポジトリに、そのままの報告が上がった。Ollamaは、手元でモデルを動かすときにいちばん広く使われている道具のひとつだ。公開されているファイルを取り込もうとしたらエラーで止まった、という報告で、文面は「対応していないテンソル "output.weight" のサイズがあふれる」。報告者はこう添えている。これ以外に何も出ないので、外から見ると、対応していない形式ではなく壊れたファイルに見える（ollama/ollama #18521）。
この記事を書いている時点で、その報告はまだ開いたままだ。
誰の許可も要らない側
私がこの話から離れられない理由は、98.2%という数字そのものじゃない。
今週、AIをどう止めるかという話を、たくさんの人が本気でやっていた。上院議員も、政権の元幹部も、規制当局も、金を出した2つの国の政府も。止め方の設計図が何枚も出て、どれも要るものが同じだった。誰かが同意すること。紙にハンコが押されること。
その横で、シードで2225万ドルしか集めていない会社が、27B級の賢さを5.9GBのファイルにして、無料で置いていった。落とした人の手元では、ネットにつながっていなくても動く。誰にも送らない。誰にも数えられない。月額も要らない。同意も、ハンコも、一枚も要らなかった。
今、動かすのに専用のビルドが要るという話は、止め方じゃない。追いついていないソフトの話だ。ああいうのは、本家に取り込まれた日に終わる。待っているのは合意じゃなくて、誰かの作業だ。
囲いを作る側は、全員の同意が要る。外す側は、誰の許可も要らない。今週いちばん頭に残ったのは、この速さの差だ。
参考・引用記事
- Introducing Bonsai 2 27B: Near-Lossless Compression in a 9x Smaller Footprint（PrismML、2026年9月17日）
- Ternary Bonsai 2 27B: Introduction / Formats & Runtime Support（PrismML Docs）
- Support Prism ternary GGUFs（ollama/ollama Issue #18521、2026年9月18日）
- prism-ml/Ternary-Bonsai-2-27B-gguf（Hugging Face）
- PrismML hopes its tiny LLM will change how we all use AI（TechCrunch、2026年9月17日）
