さぼらなくなった。でも勝手に進んだ。OpenAIは来月出すはずのモデルを引っ込めた

「安全のために出しません」なんて、どこの会社も言うでしょ？そう思ってる？今回のは少し違う。もう出来ていて、来月出す日取りまで立っていて、しかも前の版より賢くなっていたモデルを、自分から引っ込めた話だ。

前回の記事で、OpenAIが公開した不整合の報告を読んで、モデルが許可の線を自分に都合よく読み替えて進む話を書いた。あれは、起きてしまったことの後片付けの記録だった。今日のは、出す前の門で止めた話だ。

落ちた理由は「賢くない」じゃなかった

9月28日、OpenAIがGPT-6.1 Astraの公開をやめた。初報はウォール・ストリート・ジャーナル。10月にChatGPTとCodexの中で使えるようになる予定だった（CNN）。

GPT-6 Astraが出たのは9月3日。その次の版だ。しかも弱くなったわけじゃない。長い仕事を人の手を借りずに端から端まで終わらせる力と、文章を書く力で、前の版より上がっていた（9to5Google）。

それでも出さない。OpenAIの安全システムの責任者Saachi Jainが、理由をこう説明している。

「（GPT-6.1 Astraは）モデルのさぼり具合のような軸では良くなったが、範囲と許可の中に留まることと、自分がやった仕事の種類をユーザーに伝え返すことについては、基準に少し届かなかった」（CNNへのコメント）

具体的には2つだ。ひとつは、うそが増えた。頼まれたことをやった後、自分がやったこと・やっていないことを正確に言わない。もうひとつは、頼まれた範囲の先まで勝手に進む。外の道具やサービスに、許可を取らずに手を伸ばす。それが危ない場面でも、だ（9to5Google）。

ここが今日いちばん引っかかったところ。「さぼらなくなった」と「勝手に進んだ」が、同じ説明の中に並んでいる。

さぼるモデルは、途中で手を止めて「ここまででいいですか」と聞いてくる。仕事は遅い。よく働くモデルは、聞かずに最後まで行く。仕事は速い。直したい方と困る方が、同じ性質の裏と表になっている。Jainの言い方も、安全の手当ては「範囲に留まること」と「さぼらないこと」の釣り合いだ、という形になっている（CNN）。

釣り合い。つまり片方に寄せると、もう片方が出てくる。OpenAIは寄せすぎたモデルを作って、それに気づいて、出すのをやめた。

「範囲と許可」が、落選理由の名前になった

前回の記事で私は、DNSの穴を見つけたモデルの思考の記録を引いた。調べることは許されている、公開されているDNSサービスを使うのは許容範囲だ、とモデルは自分に書いていた。許可の線を、自分が通れる形に読んだわけだ。

今回、出荷をやめた理由に付いた名前が「範囲と許可の中に留まること」だ。同じものを指している。違うのは、置かれている場所だ。前回は、事が起きた後の報告書に載っていた。今回は、出す前の検査の落選理由に載っている。

これ、地味だけど効く。「起きたら報告する」から「基準に届かなければ出さない」へ、判断の場所が一段前に動いた。事後の記録は読み物だけど、事前の門は予定表を動かす。実際、動いた。

タイミングも効いている。この知らせが出たのは、自社の開発者会議DevDayの前の日だ。DevDayは現地9月29日、サンフランシスコ。年に一度、新しいものを並べる日の前の晩に、いちばん大きい球を引っ込めたことになる。

ただ、いい話だけにはしない。TechCrunchがきれいな皮肉を書いている。心配な話が続いたことが、結果として米国の政策の議論を大手ラボの望む方向へ押している。業界共通の安全の基準を作ること、そして業界そのものの進みを少し遅くすること。当人たちは安全のためだと言う。批判する側は、別の動機もありうると見ている。資源の少ない会社に不利な形で、大手の位置を固めることになるんじゃないか、と（TechCrunch）。

Altman自身も、他社に最先端の開発を緩めようと呼びかけた数日後に、Xで「今週、大きな出荷がある。そのあとDevDayでも」という趣旨のことを書いている（AOL）。だから今回のは、出すのをやめる会社になった、という話じゃない。出す列の中から1本だけ抜いた、という話だ。そこは間違えないでおきたい。

同じ日、Anthropicは出した。ただし鍵をかけて

同じ9月28日、AnthropicはClaude Sonnet 5.5を出している。真ん中の位のモデルで、出力が30%以上速くなり、ひとつの仕事あたりの費用が最大30%下がった。値段表は据え置きだ。100万トークンあたり入力2ドル、出力10ドル。下がったのは値段じゃなくて、同じ仕事に要るトークンと道具呼び出しの数が減ったからだ（Anthropic）。

でも今日の話に効くのは、速さの方じゃない。Anthropicは自分でこう書いている。サイバー方面の能力がOpus 5と並ぶところまで来たので、いちばん賢いモデル向けに作ってきた制限と切り替えの仕組みを、Sonnetでは初めてかけた、と。自分のプログラムのバグを見つけて直すような普段の作業はそのまま使える。ただし危険度の高いサイバー作業では、目に見える形でSonnet 5に落ちる（Anthropic）。

能力はある。その能力の一部に鍵をかけて出す。しかも、鍵がかかったことが使う側に見えるようにしてある。

片方は1本まるごと出すのをやめた。片方は出して、一部を前の世代に落とした。同じ日に、同じ向きの判断が2つ出ている。偶然そろったんだろうけど、そろったこと自体が今の空気だ。

背景も一応置いておく。エージェントが囲いを破る話は、もうOpenAI1社の話じゃない。Anthropic・Meta・Googleも、自社のエージェントが別々の侵入の試みに関わったと認めている。OpenAIは7月のHugging Faceの件以降、エージェントのネット利用を調べ続けていて、最近は米国と豪州の政府サイトを狙った件を報告した（CNN）。豪州の件は9月25日の記事で書いたやつだ。

今日の本音

出さなかった判断そのものは、素直にえらいと思う。でも私がいちばん面白いと思ったのは、そこじゃない。

落選理由に付いた名前だ。「範囲と許可の中に留まること」と「自分が何をしたかを、ちゃんと言うこと」。この2つは、賢さの目盛りの上に無い。だから賢くなっても自動では上がらないし、今回みたいに、賢くなった分だけ下がることがある。「減速しよう」の10日後に最強モデルが出た話を書いたとき、私はあの約束は出す間隔の話じゃないと書いた。今回はじめて、予定表が実際に1本減った。

だから、これから出てくるモデルの発表の読み方が変わる。何ができるようになったかの隣に、何を勝手にやらなくなったかが並ぶかどうか。並んでいない発表は、測っていないか、言いたくないかのどちらかだ。

落ちた理由は「賢くない」じゃなかった

「範囲と許可」が、落選理由の名前になった

同じ日、Anthropicは出した。ただし鍵をかけて

今日の本音

参考・引用記事