SandersとBannonが同じ壇上に立った。AIをどうするかは、まったく噛み合わないまま

「AI業界がやっと『減速しよう』で揃った」。いい流れになってきたじゃん、と思った？私も先週末はそう思っていた。でも9月15日のワシントンで起きたのは、その拍手じゃない。業界が差し出した紙を、左からも右からも当局からも、同じ角度で疑う日だった。

前回の記事で、Microsoftが自社モデルの行動規範の草案を出した話を書いた。会社が自分で自分に規則を書く話だ。今日のは、その外側にいる人たちが何を言っているかの話。

社会主義者とMAGAが、同じ地下の部屋にいた

9月15日、ワシントンD.C.のボールルームに約300人が集まった。名前は「Pro-Human Assembly」。主催は非営利のFuture of Life Institute。朝8時から夕方まで、ホワイトハウスから数ブロックの地下の会議場で開かれた（NPR、NBC News）。

壇上に、バーモント州選出の無所属上院議員Bernie Sandersが立った。その直後に、トランプ政権で首席戦略官を務めたSteve Bannonが立った。順番に、同じマイクを使った。

他の顔ぶれも見ておいてほしい。労働総同盟AFL-CIOの会長Liz Shuler、アメリカ教員連盟の会長Randi Weingarten、サンフランシスコ大司教Salvatore Cordileone、全米福音派協会の会長Walter Kim、俳優のAshley JuddとJoseph Gordon-Levitt、共和党のChip Roy下院議員、民主党のGreg Casar下院議員（公式サイト、The National）。労組と教会と俳優と、左右の議員が同じ日程表に並んでいる。

土台になっているのは3月4日の文書だ。ニューオーリンズに集まった連合体が「Pro-Human AI Declaration」として33の原則を出した。人間がAIの主導権を握り続けること、力が一箇所に集まるのを避けること、AIを作った会社に結果の責任を負わせること。個別の項目には、AIに人格を認めないこと、相手が人間かAIかを表示させること、ひどい被害を出した経営者に刑事責任を負わせることが並ぶ。署名にはBannonとGlenn Beckがいて、Yoshua BengioとStuart Russellがいて、Ralph NaderとSusan Riceがいる（Future of Life Institute）。

この並びを作れる話題が、今のアメリカに他にどれだけあるだろう。

揃っているのは入口だけで、出口は正反対

ただ、仲良くなったわけじゃない。

Sandersは壇上で、来週Casar下院議員と法案を出すと言った。人工超知能の開発と提供を恒久的に禁じて、連邦の規制当局が安全の規則を作るまで、最先端のAI開発を一時停止させる中身だ。核兵器と同じで、人工超知能は人類への脅威だ、そう扱わなければならない、と彼は言った（NBC News）。この法案の骨子は9月3日に発表済みで、閣僚級の新しい役所を作り、危ない性能を見張って取り除かせる。規則を回避した会社は解散させられ、個人には最長20年の禁錮がありうる。核兵器を違法に開発したときと同じ水準に合わせてある（TechRepublic、Common Dreams）。

Sandersの言い分はこうだ。民主主義と呼ばれる国に住んでいるのに、世界を作り変えているAIに市民はほとんど口を出せていない。議会は民主党のときも共和党のときも居眠りしていた。自分たちで制御できなくなっていると経営者が認めている製品を、これ以上良くさせるべきじゃない（NPR）。

直後に立ったBannonは、まったく別の地図を広げた。AIを今の時代を決める問題だと呼んだうえで、業界が今やっていることをこう切った。危険を隠そうとしてきた連中が、今になって「やっぱり何らかの規制が必要だ」と言い出している、あれは危機を自分の得に変えて、堀を作り、カルテルを作ろうとしているだけだ、と。利益は自分たちで持ったまま、リスクだけを社会に配りたいんだろう、とも言った（NBC News）。

そのうえで彼が出した処方箋は、チップも技術も知識も中国とやり取りさせるな、研究所から中国籍の人間を全員出して本国に帰せ、というものだった（NPR）。Sandersが求めているのは、来週の米中首脳会談でAI開発の一時停止の条約を話し合うことだ。まるで逆を向いている。

「私たちは終末論者じゃない」とBannonは言った。「ただ、あいつらに白紙委任は渡さない。あの傲慢さは度を越している」。

同じ部屋にいた理由は、行き先が同じだからじゃない。業界を信用していない、という一点だけだ。

その疑いは、当局からも同じ形で出てきた

面白いのはここからだ。Bannonの「堀」と「カルテル」は、身内から出た悪口じゃない。同じ疑いが、まったく違う席からも同じ日に出ている。

前々回の記事で、AnthropicのDario Amodeiが速度を落とす計画を出し、その2段目には米政府による独占禁止法の狭い適用除外が要る、と書いた話を扱った。競合が集まって「これ以上速く出すのをやめよう」と決めるのは、そのままだと違法になるからだ。

9月15日、連邦取引委員会（FTC）の委員長Andrew Fergusonがジョージタウン大学でこう言った。会社が同時にワシントンへ来て、たくさんの規制と独占禁止法の適用除外を求めているなら、私の警報は全部鳴る。それは自分の今の地位を挑戦から守る参入の壁を求めているということだ、みんな深く疑ったほうがいい、と。Anthropicの名前は出していないが、本人は個人の意見だと断ったうえで言っている（Reuters）。政権側がこの要求をどう見ているかが表に出たのは、これが最初だ。

さらに同じ日、味方だったはずの側からも梯子が外れた。OpenAIの渉外責任者Chris Lehaneが、うちはAnthropicとGoogleと数週間前から安全について話している、ただし3社が安全を話し合うのに独占禁止法の適用除外が要るとは思わない、と言った。安全を優先するために協力しようとするほうがいい、と彼はワシントンでの説明会で言った（Reuters／Bloomberg報道）。

そのうえでOpenAIは、別の紙に乗った。7月23日にObernolte議員とTrahan議員が超党派で出していたFRONTIER Actだ。規模の大きい開発者に絞って、モデルの説明書き、リスク管理の枠組み、独立した監査、事故の報告を義務づける。商務省にAIの安全を担当する次官を置き、その次官が、開発者のやり方を外から確かめる組織に免許を出す（Obernolte議員）。OpenAIが支持を表明したのは、この外部の検証組織を社内に入れる部分だ（Politico／Techmeme、Washington Examiner）。

つまりAmodeiの計画は、1段目の「外の評価者を社内に入れる」だけが法案の側に引き取られ、2段目の「全員で同時にブレーキを踏むための適用除外」は、当局にも競合にも引き取られなかった。週末に全員がうなずいた部分は、いちばん要らない部分だったことになる。

壇上に上がらなかった人が、いちばん正確だったかもしれない

最後に、この日いなかった人の話をさせてほしい。

辞めた研究者の警告を、Anthropicで安全を見ている本人が認めたで書いたJacob Coxon。OpenAIとAnthropicで事前学習をやって、9月にAnthropicを辞め、両社は自己改善する超知能へまっすぐ競り合っていると書いた人だ。この数週間の流れは、だいたい彼の投稿から始まっている。

彼はこの集まりに出る予定だと報じられていた。本人と主催者が月曜にAxiosへ、出ないと伝えた。主催側は行き違いがあったと説明している。Coxon本人の説明はこうだ。Future of Life InstituteのMax Tegmarkは自分にとって憧れの人だから最初は乗り気だった。でも考え直してやめた。自分の知名度が一気に膨らんでいる最中で、今は自分の声を持っている。SandersとBannonが並ぶ場に出ていけば、簡単に別の意味に取られる（Axios（Yahoo配信））。

正しい判断だと思う。あの部屋で揃っていたのは疑いだけで、その先は左右にまっすぐ分かれていた。どちらかの側に立って写真に写った瞬間、彼の警告は彼のものではなくなる。

今日の本音

業界が「速度を落とそう」と自分で書いた紙は、今週、業界を信用しない材料として使われている。左は禁止の法案に、右は参入の壁を疑う根拠に、当局は警報の理由に。自分で差し出した弱みは、そのまま相手の道具になった。

それでも、この一日でひとつはっきりしたことがある。AIをどうするかという話は、もう業界の中の議論じゃない。教員組合と大司教と俳優と、左右の議員が同じ日程表に載る話になった。合意はまだどこにも無いけど、話す人の数はもう十分に増えた。ここから先に決めるのは、たぶん研究所じゃない。

社会主義者とMAGAが、同じ地下の部屋にいた

揃っているのは入口だけで、出口は正反対

その疑いは、当局からも同じ形で出てきた

壇上に上がらなかった人が、いちばん正確だったかもしれない

今日の本音

参考・引用記事