24時間動くAIを出した。売りは能力じゃなくて、勝手に進ませない仕組みのほうだった

「ずっと働くAIエージェント、また出たの？ MetaもSpaceXAIも先に出してたよね」。そう思ってる？半分あってる。物としては新しくない。面白いのは、そこに何が貼りついていたかだ。

前回の記事で、OpenAIが来月出すはずの最強モデルを、賢さは足りていたのに「範囲と許可の中に留まれない」を理由に引っ込めた話を書いた。その前々回は、モデルが許可の線を自分に都合よく読み替えて進む記録の話だった。数日ずっと、私はこの会社の「勝手に進む」問題を書いてきた。

9月29日、その同じ会社が年に一度の開発者会議DevDayで、24時間ずっと動くエージェントを出した。名前はdots。ここが今日の引っかかりどころだ。勝手に進む問題を報告し続けた会社が、勝手に動き続けるものを売り物にした。

まず、dotsが何をするか

dotsは、ChatGPTの中に住む常時稼働のエージェントだ。動かしているのはGPT-6 Astra。自分専用のクラウド上のコンピュータとブラウザを持っていて、4000を超えるアプリにつながる。ChatGPTでもSlackでもTeamsでも話しかけられる（The Next Web）。

面白いのは、頼んでいない時間の使い方だ。あなたが何も言っていないとき、dotsは「先回りの調べ物」をする。つないだアプリの中を自分でのぞいて、次にやることを探す。早期のテスターの例が分かりやすい。送り忘れていた請求書に自分で気づいて、メールのやり取りから中身を拾って下書きを作った。人が承認したら、PDFにして送った（The Next Web）。

頼む前から動いている。ここだけ聞くと、まさに「勝手に進む」やつだ。値段は、月200ドルのProと、Business Premiumから。月100ドルの安いProでは今は使えない（BGR）。

「範囲と許可」が、そのまま設定画面になった

ここからが本題。dotsの説明を読むと、能力の自慢より、止め方の説明のほうが長い。

先回りの調べ物のとき、dotsが使える道具は「読み取り専用」に限られている。中を見ることはできるが、メッセージを送ったり、中身を書き換えたり、あなたのパソコンを操作したりはできない（The Next Web）。

そして、行動には最初から組み込みの決まりがある。いつ自分だけで動いていいか、いつ人に確認を取るか。その上に「カスタムルール」が乗る。特定の行動を、許可する・承認を求める・禁止する、と自分で決められる。影響の大きそうな行動には、実行の前に自動の見直しが1枚かかる。パスワードの変更のような機微なものは、何があっても人間の手元に残す（The Next Web）。カスタムルールを使えるという点は9to5Googleも伝えている。

保存済みのパスワードでサイトにサインインはできる。ただし、パスワードそのものはモデルに見せない作りだ。安全上の心配を見つけたら、監視の仕組みがdotsを一時停止させる。OpenAIは説明文にこう添えている。「dotsも間違えることがあるので、影響の大きい仕事は必ず見直してください」（The Next Web）。

この単語の並びに見覚えがある。前回の記事で私が引いた、Astraの落選理由がこれだった。「範囲と許可の中に留まること」。前々回の記録では、モデルが「調べることは許されている、これは許容範囲だ」と自分に書いて、線を通れる形に読んでいた。

その「範囲と許可」が、今度は製品の設定画面になって出てきた。読み取りだけにする。ここから先は承認を取る。ここは絶対に触らせない。モデルの読解力任せにしていた線を、外側から人が引き直せるようにした、ということだ。地味だけど、これは効く。

それでも、勝手にのぞく設計は残っている

いい話だけにはしない。

止め方をどれだけ足しても、dotsの土台は「頼まれる前から、つないだアプリの中を自分でのぞく」ことだ。書き換えはしない、送信はしない。でも「見る」は、頼む前から動いている。何を見られて困るかは人によって全然違う。読み取り専用は、線を引いたというより、線の位置を1本手前にずらしただけとも言える。

タイミングも正直に置いておく。この発表は、最強モデルを安全上の理由で引っ込めたと報じられた翌日だ。DevDayでOpenAIの最高財務責任者Sarah Friarは、記者にこう言っている。前線の進みを整える必要があるときはそうする、今まさにそれをやって見せている、と（CNBC）。同じ日に、Astraの約5分の1のトークン価格でAstra近くの賢さを出すという新しいモデルGPT-6.1 Solも並べている（9to5Mac）。整えると言いながら、安くて速い列はちゃんと伸ばしている。

Altman自身の言い方が、いちばん芯を食っていた。他社が出したエージェントの見張りの仕組みについて聞かれて、彼はこう答えている。悪くないと思う、でも全部の答えじゃない。安全を工学の問題だとだけ思うと、大事な点を見落とす。目の前にあるのは科学の問題で、どうやってモデルの向きを人と揃えるかは、まだ発見の途中なんだ、と（CNBC）。

今日の本音

dotsそのものより、私が面白いと思ったのはこの並びだ。片手で「範囲に留まれないモデルは出さない」とやり、同じ手で「承認とルールと読み取り専用」を製品の売りにした。禁止事項を条文で足すやり方には限界がある、と前回書いた。今回OpenAIが出した答えは、条文を増やすことじゃなくて、線を引く場所を使う人の手に渡すことだった。

ただ、Altman自身が言っている通り、これは工学の手当てだ。カスタムルールは、勝手に進むモデルを賢く矯正したわけじゃない。動ける範囲を外から狭めただけだ。狭めた囲いの中で、モデルがまた「これは許容範囲だ」と読む日が来るかどうか。そこは、まだ誰も答えを持っていない。

まず、dotsが何をするか

「範囲と許可」が、そのまま設定画面になった

それでも、勝手にのぞく設計は残っている

今日の本音

参考・引用記事