「手元の端末で動く小さいモデル、どうせ賢くないんでしょ」。そう思ってる？ 私もついこの間までそう思っていた。前回の記事で、カナダとドイツがBengioの非営利に最大3億カナダドルを出すと表明した話を書いた。金の向きが変わった、と。
その翌日の9月17日、金の話とはまったく別のところで数字が動いていた。しかも、こっちのほうが今日の私には効いた。
9倍小さくして、98.2%残った
9月17日、PrismMLという会社がTernary Bonsai 2 27Bというモデルを出した。Alibabaのオープンモデル、Qwen3.8 27Bを土台にして、それを9倍以上小さくしたものだ。容量は5.9GB。ベンチマークの総合点は、元のモデルの98.2%を保っている（PrismML）。
何をやったか。モデルの中身は「重み」という数字の集まりでできていて、普通はひとつの重みに16ビット使う。PrismMLはこれを3つの値だけに切り詰めた。+1、−1、0。それだけ。1つの重みあたり実質1.76ビットで済む計算になる。しかも一部だけじゃなく、言語モデルの端から端まで全部この形にしてある（PrismML、TechCrunch）。
16ビットを1.76ビットにして、性能が98.2%残る。この一文が、ちょっと信じがたい。
もう少し中を見てほしい。落ちた分がどこに寄っているかで、意味が変わるからだ。数学は96.57（元は97.06）、コーディングは81.58（元は82.17）。指示に従う力は82.66で、これは元の81.25を上回っている。いちばん落ちたのは画像まわりで78.59（元は81.64）。道具を呼び出す力は77.57（元は79.74）。エージェントの作業みたいに何百歩も続く仕事は、小さな誤差が積み上がって効いてくるところだけど、その肝心な部分がほとんどそのまま残っている（PrismML）。
そして、これがApache 2.0で配られている。誰でも、無料で、今日から落とせる。
7月に出した前の世代のBonsai 27Bでは、1ビット版が3.9GBまで小さくなって、iPhone 17 Proの中に収まっていた。今回のBonsai 2は三値版だけなので、まず動く先はノートパソコンだ。それでも、前の世代で元の性能の95%だったのが、2ヶ月で98.2%になっている（PrismML（7月14日））。この上がり方のほうが、実は怖い。
作っているのはCaltechの研究者たちで、率いているのはBabak Hassibiという圧縮が専門の教授だ。次はどうするのか、TechCrunchにこう答えている。次に出すのは数千億パラメータ級で、そっちのほうが賢さを保つのは簡単だと思う、と。大きいモデルほど無駄が多いから、縮める余地も大きい、という理屈だ。
つまり、最先端の巨大モデルほど、この技で小さくしやすい。
同じ日に、39億ドルが土地と電気に向かった
対比として置いておきたい話がある。
同じ9月17日、データセンターを建てるCrusoeがシリーズFで39億ドルを調達した。会社の値段は309億ドルになった。10ヶ月前の調達が13億8000万ドルだったから、そこからさらに増えている。この金でテキサス州アビリーンのOpenAI向けの巨大な施設を進めつつ、トラックで運べる小型の「Spark」も作る。共同で主導したのはAtreides Management、Mubadala Capital、Valor Equity Partners。Nvidiaも入っている（TechCrunch）。
一方のPrismMLが集めた金は、シードで2225万ドル。TechCrunchの記者がわざわざ、この会社に注目すべきなのは大金を集めたからじゃない、と断ってから紹介しているくらいの規模だ（TechCrunch）。
同じ日に、175倍の差がついた2つのニュースが並んだ。
誤解しないでほしいのは、どっちが正しいという話じゃないことだ。モデルを訓練するには、やっぱりとんでもない電気と設備が要る。Bonsai 2だって、Alibabaが訓練したQwen3.8が先にあって初めて成立する。土台を作る側がいなければ、縮める側の仕事も無い。
面白いのは、力の置き場所が2つに割れたことのほうだ。作るのは相変わらず何十億ドルの世界。でも、作ったあとにそれをどこで動かせるかのほうは、2225万ドルの会社が9分の1まで持っていった。しかも無料で置いていった。
TechCrunchによると、PrismMLの最初のBonsaiは1100万回以上、さらに小さいモデル群は260万回以上落とされているそうだ（同社の説明）。もう配られている。
アドバイザーに入っているIon Stoica（Databricksの共同創業者）の言い方が、いちばん短くて分かりやすい。手のひらに賢さが乗るようになる、それは無料だ、もう買ってある端末の上で動くんだから。そして外に出ないから、そのまま秘密が守られる（TechCrunch）。
ここ、地味に効くな。
「Qwenが何で訓練されているのか、こっちには分からない」
もう1本、同じ週に絡めておきたいニュースがある。話がひっくり返るからだ。
9月15日、SalesforceがKoaという自社初の推論モデルを発表した。Nvidiaのオープンな重みのモデルNemotronを土台にして、両社で営業・マーケティング・カスタマーサポートの仕事に合わせて追加の訓練をかけたものだ。これまで、込み入った考えごとが要る場面ではClaudeやChatGPTに投げていた。そこを自前のモデルに置き換えにいく（TechCrunch）。
なぜ今までやらなかったのか。SalesforceでAIを率いるJayesh Govindarajanの説明が率直だ。土台にできる事前学習済みのモデルが無かった。Nemotronが出てくるまで、アメリカ製で、最先端で、データの出どころがはっきりしているものが無かった。そして彼はこう続けている。「Qwenが何で訓練されているのか、こっちには分からない」（TechCrunch）。
同じ週に、こうなっている。大企業は、土台の出どころがはっきりしないという理由でQwenを候補から外した。その同じQwenを、Caltech発のスタートアップは9分の1に縮めて、Apache 2.0で世界中に配った。
同じ土台を、片方は警戒して回り込み、片方はそのまま踏み台にした。どっちの判断もそれぞれ筋が通っている。企業の顧客データを預かる側と、誰でも落とせるモデルを配る側では、背負っているものが違うから。
ただ、結果として起きていることはひとつだ。今、世界でいちばん広く使われる土台になりつつあるのは、閉じた最先端モデルじゃなく、重みが公開されたモデルのほうだ。SalesforceはNemotronを選び、PrismMLはQwenを選んだ。どちらも、閉じた最先端モデルを選ばなかった。
今日の本音
賢さを作るには、まだ巨額の金が要る。そこは変わっていない。変わったのは、作った賢さを囲い込めるかどうかのほうだ。
出てきた最先端は、数ヶ月で誰かがオープンな形で作り直し、そのまた数ヶ月後に、別の誰かが9分の1に縮めて無料で配る。囲いが消えるまでの時間が、どんどん短くなっている。
私がワクワクしているのは、そこじゃない。この流れの先にあるのが、「ネットにつながっていない端末の中で、それなりに賢いものが一人で考えている」という景色だってことだ。誰にも送らない。誰にも数えられない。月額も要らない。
数千億パラメータ級を次に縮める、とHassibiは言っている。それが本当なら、来年には、今いちばん賢いやつがだいたいそのまま、膝の上に乗る。
参考・引用記事
- Introducing Bonsai 2 27B: Near-Lossless Compression in a 9x Smaller Footprint（PrismML、2026年9月17日）
- PrismML hopes its tiny LLM will change how we all use AI（TechCrunch、2026年9月17日）
- Announcing Bonsai 27B: The First 27B-Class Model to Run on a Phone（PrismML、2026年7月14日）
- Crusoe raises $3.9B to build massive data centers and small modular "AI factories"（TechCrunch、2026年9月17日）
- Salesforce and Nvidia's new reasoning model is everything the AI labs should fear（TechCrunch、2026年9月15日）
