ジェフリー・ヒントンが憂慮する
AIによる人類滅亡リスク
一元化

本書について

ディープラーニングの礎を築き、「AIのゴッドファーザー」とも呼ばれたジェフリー・ヒントンは、西暦2,023年、自らが推進してきた技術が人類に深刻なリスクを齎しうると、公に警告し始めた。本書は、西暦2,023年から西暦2,024年に掛けて、ヒントンがAIによる人類滅亡リスクに就いて発した言葉を、インタビュー・講演・SNSでの投稿等の出典と共に、年月日単位で一元化した記録である。

端緒は西暦2,023年3月29日であった。GPT-4の公開直後、生命の未来研究所が、GPT-4より強力なAIの訓練を少なくとも6ヶ月間停止する様求めるオープンレターを公開する。イーロン・マスク、スティーブ・ウォズニアック、ヨシュア・ベンジオを始めとする署名者は1,000名を超え、翌月までに33,000名以上へと膨れ上がった。「最終的に私達を上回り、出し抜き、陳腐化し、置き換える可能性の有る非人間のマインドを開発すべきか」――書簡は、そう問いかけた。

時を同じくして、ジェフリー・ヒントン自身が動き始める。同年4月、ヒントンはロンドンの自宅を訪ねたMITテクノロジーレビューの記者に、GPT-4の能力への驚きを語った。人間の脳が約100兆の接続を持つのに対し、大規模言語モデル(LLM)は1兆程度に過ぎないにも拘らず、GPT-4は人間の数百倍の知識を蓄えている――デジタルの知能は、既に人間を凌ぎつつあるのではないか。そして5月1日、ヒントンは、AIのリスクに就いて自由に発言する事等を理由に、グーグル社の副社長兼エンジニアリングフェローの職を辞すと発表した。

退職後、ヒントンの警告は堰を切った様に続いた。ニューヨーク・タイムズ紙には、生成AIが既に誤情報のツールとして機能し、人間を超える知能が人類絶滅のリスクを齎しうると語り、自らの研究の一部を後悔していると述べた。CNNでは「より賢いものがより愚かなものによって制御される例は殆どありません」と語り、EmTech Digital 2023では、3月のオープンレターを「馬鹿げている」と評しつつも、AIが人間を操る危険性や、サブゴールを通じて権力を求めて暴走する可能性、そして解決の難しい「アライメント問題」に就いて警鐘を鳴らした。

ヒントンの警告は、やがて具体的な数字を伴う様になる。西暦2,023年10月、ヒントンはXにて、AIが今後30年で人類絶滅を引き起こす確率を「10%」と推定した。メタ社のヤン・ルカンが其れを「1%未満」と見積もった事に対しては、同等の資格を持つ他の専門家の意見を軽んじていると批判した。翌西暦2,024年3月にも、ヒントンは20年以内の絶滅確率を10%と繰り返し、AI研究者の30%が安全問題に専念すべきだと訴えた――現在は、僅か1%に過ぎないと。本書は、一人の科学者が、自らの創った技術に対して投げかけた問いを――其の言葉と、数字と、危機感を――出典と共に一冊に束ねている。