自律型致死兵器の禁止と
各国政府の職務怠慢を訴える
スチュアート・ラッセル
一元化

本書について

西暦2,014年4月19日、ハフィントン・ポストに一篇の寄稿が載った。署名したのは、スティーヴン・ホーキング、スチュアート・ラッセル、マックス・テグマーク、フランク・ウィルチェックの4名である。表題を「超知能機械を巡る安易な楽観主義の克服」といい、短期の自律型兵器、中期の経済的混乱、長期のシンギュラリティという三段階でリスクを整理した上で、AIの短期的影響は誰が其れを制御するかで決まるが、長期的影響は其もそも制御可能なのかで決まる、と論じた物であった。本書は、此の寄稿を起点として、カリフォルニア大学バークレー校の計算機科学教授スチュアート・ラッセルが自律型致死兵器の禁止とAIの規制を訴え続けた十二年の歩みを、出典と日付を添えて年月日単位で一元化した記録である。

西暦2,015年1月2日、プエルトリコのサンフアンで「AIの未来：機会と課題」が4日間に亘って開かれる。報道関係者を入れず、チャタムハウスルールの下で議論は進められ、其の場でラッセルが起草した公開書簡と研究優先事項の文書が回覧された。同月11日頃、書簡はFLI（Future of Life Institute）によって公開される。署名者は11,251名以上に上り、ジェフリー・ヒントン、ヨシュア・ベンジオ、ヤン・ルカン、デミス・ハサビス、イーロン・マスク、スティーヴン・ホーキングらが名を連ねた。

同年7月17日、サイエンス誌のインタビューに応じたラッセルは、破局への道筋の中核に在るのは価値の不整合であるとし、核融合研究における封じ込めのように、人間の目的との整合をAI研究の中心へ据えるべきだと主張した。土木工学者が「落ちない橋を造る」とは言わない例を引き、何れ「恐らく有益なAI」と断らずに済む日が来るべきだ、とも述べている。

西暦2,016年11月2日、ラッセルとアラン・ダフォエは、ニック・ボストロムの「スーパーインテリジェンス」を批判したオーレン・エチオーニへ、MITテクノロジー・レビュー誌上で反論した。専門家は超知能AIを人類への脅威とは考えていない、というエチオーニの主張の根拠となった調査が、実現時期しか問うておらず脅威の有無を一切問うていない点を突いた物である。同日、エチオーニは3点について合意を表明した。

西暦2,023年、議論は学界の外へ出る。5月30日、「AIによる人類絶滅のリスクを軽減する事は、パンデミックや核戦争等と並ぶグローバルな優先事項であるべきだ」とするCAISの声明に、ラッセルはヒントン・ベンジオ・ハサビス・アルトマン・アモデイ・ゲイツらと共に署名した。7月25日にはアメリカ上院司法委員会「プライバシー・技術・法」小委員会の公聴会「AIの監督:規制のための原則」に立ち、現行システムの内部動作が不透明である事を安全性と規制の双方における深刻な問題として挙げ、規制機関の設立と厳格な安全要件を具体案として示している。

西暦2,025年1月31日、ニューズウィーク誌への論説で、ラッセルはディープシークの登場によって前提が崩れれば巨額の設備投資が無駄になると指摘し、AI関連株が1日で1,000,000,000,000ドル超を失った背景を論じた。巨大データセンターの建設競争を西暦1,960年代の水爆大型化競争に喩えた上で、AGI競争は其れより悪いとしている。翌月6日にはAFP通信へ、グーグル社がAIの兵器利用に反対する社員や世論の意向を押し切る形へ方針を変えた事に触れ、年齢・性別・民族・宗教、更には特定個人を条件に標的を殺害する運用が可能になり得ると警告した。そして西暦2,026年2月17日、ニューデリーのバーラト・マンダパムで開かれたAIインパクト・サミットにて、大手テック企業のCEO達が人類滅亡のリスクを伴うAI軍拡競争に陥っていると述べ、各社トップは軍縮したいと考えているが単独でそうすれば投資家に解任されるとした上で、民間企業に全人類を賭けたロシアンルーレットを許すのは職務怠慢だ、と各国政府の責任を問うた──本書は、其の全軌跡を一冊に束ねている。