万物の系譜西暦2026年 ― ニック・ボストロム論文「超知能の最適なタイミング」発表、ユドコウスキー&ソアレス『誰かが作れば、人類は滅びる』への反論

西暦2,026年は、2月12日にニック・ボストロムが論文「超知能の最適なタイミング」を発表した。超知能の開発はロシアンルーレットではなく、放置すれば命に関わる病を治す為のリスクの高い手術であるとし、「何もしなければ安全」という前提は誤りで、現状でも毎日170,000名が病気や老化で亡くなっており、私達全員も数十年内に死に向かっていると指摘した。従って選択は「リスクゼロの基準」対「リスクのあるAI」では無く、異なるリスクを伴う複数の道筋の間の選択であるとし、此れはエリーザー・ユドコウスキーとネイト・ソアレスの共著「誰かが作れば、人類は滅びる」への反論でもあった。やるか/やらないかを問う単純なモデルでは、AIによる絶滅確率が一定値を下回る限り早期開発が期待余命を延ばすとし、AGI能力に達する迄の期間と其の後に意図的に置く猶予期間を分ける多段階モデルでは、実システムを用いて安全性研究を加速出来る利益が前倒しで得られる為、最終段階に数ヶ月〜数年の短い猶予を置くのが最適だと論じた。更に、高齢者・病人・貧困層程早期ローンチが合理的になるという分配的考慮や、一時停止が地下開発・軍事化・ハードウェア過剰蓄積・恒久禁止への固定化として裏目に出る経路を検討し、実践的含意を「港へは速やかに、着岸はゆっくりと」（AGI能力迄は速やかに進み、最終的な大規模展開で必要に応じて減速・調整する）と結論づけた。

以下の暦は全て西暦に変換しています。日本の旧暦 / 中国の旧暦 / ユダヤ暦 / ヒジュラ暦 / ソビエト連邦暦 / フランス革命暦

≈は「頃」を意味しています。

年月日				出来事
	2,026	2	12	ニック・ボストロムが、論文「超知能の最適なタイミング」を発表する。超知能の開発は、ロシアンルーレットでは無く、放置すれば命に関わる病気を治す為の、リスクの高い手術であるとし、何もしなければ安全という前提は誤りで、現状でも170,000名が病気や老化で亡くなっており、私たち全員も数十年内に死に向かっている。従って、選択は「リスクゼロの基準」対「リスクの有るAI」では無く、異なるリスクを伴う複数の道筋の間の選択である、とした。此れはエリーザー・ユドコウスキーとネイト・ソアレスの共著「誰かが作れば全員死ぬ」への反論でもあった。主な内容は以下の通り。 ①主要なモデルと結論単純なやるか/やらないかモデルでは、超知能無しの平均余命を40年、成功すれば健康な20歳並みの死亡率(余命約1,400年)と仮定すると、AIによる絶滅確率が97%を下回る限り、今すぐ開発する方が期待余命を延ばすという結論になる。タイミングを変数に加えると、安全性研究の進展によってリスクを下げられる一方、待つ程、通常死因による死亡が積み重なる。初期リスクが低ければ、即座にローンチするのが最適で、リスクが高くても、最適な遅延は大抵1年程度である。興味深い事に、安全性の進歩が極端に速い場合も遅い場合も、早期ローンチが有利で、中間〜やや遅い場合に最も長い遅延が最適になる。其の後、幾つかの精緻化を加えている。時間割引はローンチを遅らせる方向に、生活の質の向上は早める方向に働く。但し質の効果は飽和し、又質の差が十分大きいと時間割引は寧ろ早期化を促す。限界効用逓減(リスク回避)はやや保守的にしますが、全体像を大きくは変えない。 ②多段階モデルと「安全性の棚牡丹」重視するのは、AGI能力に達するまでの期間(フェーズ1)と、その後に意図的に置く猶予期間(フェーズ2)を分ける多段階モデルである。実際のシステムが手に入って初めて、其れを調べて試験し、システム自身の能力を使って安全性研究を加速出来る「安全性の棚牡丹」が生じると想定する。此の利益は前倒しで得られ、直ぐに逓減する為、最適戦略は、フェーズ2で数ヶ月〜数年の短い猶予を置くという事になる。更に、不確実性とテストを導入すると、最適なのは固定的なローンチ日では無く、証拠に応じて条件付けられた方策になる。 ③分配的考慮最適なタイミングは人によって異なる。高齢者・病人・貧困層・現状の生活の質が低い人程、失うものが少なく得るものが大きい為、早期ローンチを選ぶのが合理的である。最も恵まれない人を重視する優先主義的な重み付けを政策に取り入れると、最適タイムラインは更に短くなる。加えて、70歳を超える人生には余り価値が無い、という直感を検討し、変革的AIの文脈では誤りだとした。 ④現実的な留保但し、誰もタイムラインを完全に制御出来ない。一時停止が裏目に出る経路は主に以下である。 ❶開発が地下や非協力的な国家に移る ❷軍事化 ❸ハードウェア/アルゴリズムの過剰蓄積 ❹恒久禁止への固定化実装方式としては、先行者が自らのリードを削って安全策を講じる方式が最もリスクが小さく、政府による一時停止や国際的禁止はより多くの失敗モードを抱える。 ⑤結論具体的な政策処方を直接導くものでは無いが、実践的な含意を一言で表すなら「港へは速やかに、着岸はゆっくりと」。詰まり、AGI能力までは速やかに進み、最終的な大規模展開の段階で必要に応じて減速・調整する余地を持つ事。短い猶予が最大の効果を持つのは、正に其の最終段階である。