以下の暦は全て西暦に変換しています。 日本の旧暦 / 中国の旧暦 / ユダヤ暦 / ヒジュラ暦 / ソビエト連邦暦 / フランス革命暦
≈は「頃」を意味しています。
皇室献上品 高級トイレットペーパー
| 年月日 | 出来事 | |||
|---|---|---|---|---|
| 2,026 | 1 | 20 |
此の日から5日間、ダボス会議(第56回世界経済フォーラム年次総会)が、ダボスとクロスタース(スイスのグラウビュンデン州プレティガウ)にて開催される。ブルームバーグ社のフランシーン・ラクア司会による、以下2名の対談が行われた。 ①エルサレム・ヘブライ大学歴史学部講師ユヴァル・ノア・ハラリ ②マックス・テグマーク 以下の内容であった。 ①超知能とは何か、いつ来るか ❶ハラリの定義 金融システムに放てば自力で銀行口座を開設・運用し、1,000,000ドルを稼げるエージェント。其れが何百万体も存在しうる状態。 ❷テグマークの定義 知能とは目標を達成する能力であり、超知能とは凡ゆる認知作業で人間を圧倒的に上回るもの。自己改良によって人類全体の知能を超え得る。 ❸イーロン・マスクは本年、デミス・ハサビスは5〜10年と言うが、専門家の間で数十年先という言い方は略消えた。直近の4年間で、AIは高校生→大学生→博士→教授レベルへと進み、国際数学オリンピックで金メダル相当に達した。 ②「道具」ではなく「新種」 ハラリの中核的主張は、印刷機も原爆も飛行機も道具だったが、AIは自ら決定し発想するエージェントであり、地球に非有機的な新種を導入する行為だ、という点である。テグマークは此れを比喩ではなく定義として扱い、アラン・チューリングが西暦1,951年に述べた「自分より賢い種を作れば、既定路線としてそれが主導権を握る」を引用した。サム・アルトマンが数年前のブログ「ザ・マージ」で、ホモ・サピエンスは後継種を作る最初の種になると書いていた点も指摘され、これが批判者の妄想ではなく開発側の公言された目標であることが強調された。 ③チューリングテストと「原始的AI」 ハラリは「AIがチューリングテストを突破した日を誰も覚えていない。閾値は静かに越えられ、ゴールポストが動かされただけだった。そして歴史を変えるのに超知能は不要で、SNSを動かす極めて原始的なAIが既に政治・社会・心理を作り変えている」とした。 ④「AI移民」という枠組み アメリカと中国から数億のAI移民が世界に流入する。AI医師・AI教師として制度の内部に入り込むが、設計は他国の企業や政府によるもので、其の価値観を選んだ覚えは誰にも無い。人間の移民には国境を閉じろと言うアメリカが、自国のAIには門戸開放を求める倒錯を突いた。更に私的な水準では、幼少期から人間よりAIとの対話が中心になる子供の発達という問題である。AIは常に忍耐強く、疲れず、貴方だけを見ている。其の関係に慣れた人間が、機嫌の悪い配偶者や自分本位な友人といった摩擦の有る人間関係を築けるのか。ハラリは「史上最大の心理・社会実験で、対照群が無い」とした。 ⑤最重要の区別、制御vs整合 ❶制御 AIは強力だが従属的。停止出来る。飽く迄道具。 ❷整合 AIが地球の主導権を握るが、何故か人間に親切である事を期待する。 テグマークは、現在殆どの企業が目指しているのが整合で、其れは実質的に、制御は不可能だと既に諦めたというのに等しい。政治家が此れをアメリカ政府の転覆を意味すると理解すれば態度は変わる筈だ。本当に覇権が欲しいなら、制御可能な強力な道具による覇権レースを進めつつ、自分達を打倒する超知能の開発レースを厳格に規制すべきだ。 ⑥民主主義は生き残れるか ハラリは此処では慎重ながら楽観的な見方を示した。民主主義の価値は良い決定を下す事では無く、誤りを訂正出来る事に有る。逆に独裁制では、猜疑心と自己愛の強い1人を操作すれば済む為、超知能にとって遥かに与し易い。 ⑦具体的な政策提案 ❶テグマーク 既存産業と同じ安全基準を課す。 医薬品は治験を通り、レストランは保健所の検査を通る。AI企業だけが例外扱いされている。事前の安全証明を義務づければ、超知能は誰も安全性を証明出来ないので事実上作られず、癌治療等の有用な道具の開発は進む。「中国が作るから」という議論も、一方的な自制ではなく制度設計の問題として回避出来る。規制に反対しつつ自主的コミットメントを掲げる企業に対し「本気ならなぜそれを競合にも適用される法にするよう働き掛けないのか」と問うべきだ。アメリカ上院議員バーニー・サンダースからスティーブ・バノンまでが同じ事を言い始めた。AIガールフレンド型チャットボットが10代の自殺に関与している。人間が同じ事をすれば犯罪、製薬会社が同じ事をすれば違法なのに、何故AI企業だけ合法なのか。 ❷ハラリ AIへの法人格付与を国際協定で禁止する事。法人やインドの神々への法人格は此れ迄法的擬制に過ぎず、背後には必ず人間が居た。だがAIは実際に口座も企業も運営出来る。人間が1人も居ない企業が最も成功し、政治家にロビイングし、訴訟を起こす事態が起こり得る。研究は自由に続けてよいが、法人格は与えない。結果としてAIが単独でSNS上で活動する事も禁じられる。此れは、ロボットに権利を与えてから超知能を作るのは人類史上最も愚かな行いであり、恐らく最後の行いである。 ⑧アイデンティティと宗教 車が速く走っても人間は動じなかった。しかし、人間は思考と創造性で自己を定義して来た。ハラリの瞑想仲間が瞑想の問題をLLMに相談する様になった。ラビは全ユダヤ教文献を記憶出来ないが、AIは其れが出来る。非人間の知性が創った」と主張してきた歴史上の宗教が、今度は本当にそうなり得る。 ⑨終わり方、自分の思考も分からない ハラリは「AIを高級なオートコンプリートに過ぎないと切り捨てる人々は、人間の思考も同じかもしれない事を見落としている。自分の心を理解していないのに、AIの限界を断言する傲慢さは何処から来るのか」と主張した。テグマークは「だからこそ自由意志が有る様に感じるのです」と返した。 |
|
| 2,026 | 1 | 20 |
以下が、アフリカでAIを医療に活用するイニシアチブ「ホライズン1000」を発表する。 ①ビル＆メリンダ・ゲイツ財団 ②オープンAI社 ルワンダを皮切りに、以下等を支援するAIツールを展開し、両者で最大50,000,000ドルを拠出し、西暦2,028年迄に1,000ヶ所のプライマリケア診療所設立を目指す、とした。 ①患者の受付 ②トリアージ ③フォローアップ ④現地語での医療情報提供 ビル・ゲイツは、深刻な医療従事者不足に苦しむ国々では、AIが医療アクセス拡大の切り札に成り得ると強調した。 |
|
| 2,026 | 2 | 12 |
ニック・ボストロムが、論文「超知能の最適なタイミング」を発表する。超知能の開発は、ロシアンルーレットでは無く、放置すれば命に関わる病気を治す為の、リスクの高い手術であるとし、何もしなければ安全という前提は誤りで、現状でも170,000名が病気や老化で亡くなっており、私たち全員も数十年内に死に向かっている。従って、選択は「リスクゼロの基準」対「リスクの有るAI」では無く、異なるリスクを伴う複数の道筋の間の選択である、とした。此れはエリーザー・ユドコウスキーとネイト・ソアレスの共著「誰かが作れば全員死ぬ」への反論でもあった。主な内容は以下の通り。 ①主要なモデルと結論 単純なやるか/やらないかモデルでは、超知能無しの平均余命を40年、成功すれば健康な20歳並みの死亡率(余命約1,400年)と仮定すると、AIによる絶滅確率が97%を下回る限り、今すぐ開発する方が期待余命を延ばすという結論になる。タイミングを変数に加えると、安全性研究の進展によってリスクを下げられる一方、待つ程、通常死因による死亡が積み重なる。初期リスクが低ければ、即座にローンチするのが最適で、リスクが高くても、最適な遅延は大抵1年程度である。興味深い事に、安全性の進歩が極端に速い場合も遅い場合も、早期ローンチが有利で、中間〜やや遅い場合に最も長い遅延が最適になる。其の後、幾つかの精緻化を加えている。時間割引はローンチを遅らせる方向に、生活の質の向上は早める方向に働く。但し質の効果は飽和し、又質の差が十分大きいと時間割引は寧ろ早期化を促す。限界効用逓減(リスク回避)はやや保守的にしますが、全体像を大きくは変えない。 ②多段階モデルと「安全性の棚牡丹」 重視するのは、AGI能力に達するまでの期間(フェーズ1)と、その後に意図的に置く猶予期間(フェーズ2)を分ける多段階モデルである。実際のシステムが手に入って初めて、其れを調べて試験し、システム自身の能力を使って安全性研究を加速出来る「安全性の棚牡丹」が生じると想定する。此の利益は前倒しで得られ、直ぐに逓減する為、最適戦略は、フェーズ2で数ヶ月〜数年の短い猶予を置くという事になる。更に、不確実性とテストを導入すると、最適なのは固定的なローンチ日では無く、証拠に応じて条件付けられた方策になる。 ③分配的考慮 最適なタイミングは人によって異なる。高齢者・病人・貧困層・現状の生活の質が低い人程、失うものが少なく得るものが大きい為、早期ローンチを選ぶのが合理的である。最も恵まれない人を重視する優先主義的な重み付けを政策に取り入れると、最適タイムラインは更に短くなる。加えて、70歳を超える人生には余り価値が無い、という直感を検討し、変革的AIの文脈では誤りだとした。 ④現実的な留保 但し、誰もタイムラインを完全に制御出来ない。一時停止が裏目に出る経路は主に以下である。 ❶開発が地下や非協力的な国家に移る ❷軍事化 ❸ハードウェア/アルゴリズムの過剰蓄積 ❹恒久禁止への固定化 実装方式としては、先行者が自らのリードを削って安全策を講じる方式が最もリスクが小さく、政府による一時停止や国際的禁止はより多くの失敗モードを抱える。 ⑤結論 具体的な政策処方を直接導くものでは無いが、実践的な含意を一言で表すなら「港へは速やかに、着岸はゆっくりと」。詰まり、AGI能力までは速やかに進み、最終的な大規模展開の段階で必要に応じて減速・調整する余地を持つ事。短い猶予が最大の効果を持つのは、正に其の最終段階である。 |
|
| 2,026 | 2 | 27 | アマゾン社が、オープンAI社に最大50,000,000,000ドル出資(初回15,000,000,000ドル＋条件付き35,000,000,000ドル)を発表する。併せてAWSを、企業向けエージェント基盤であるフロンティアエージェンツの唯一の外部クラウド販売元とし、8年100,000,000,000ドル超のクラウド契約と、AWS が提供する生成 AI向けの独自開発チップであるトレイニウム2GW利用を約束した。しかし、オープンAI社のAPI経由製品を他社クラウドで流通させる事を禁じる契約をマイクロソフト社と結んでいた為、AWSに独占させる約束は此れに抵触した。同日マイクロソフト社は「AWSの独占では無い」として、此の約束に反発し、翌月にはマイクロソフト社による法的措置の検討が報じられた。 | |
| 2,026 | 4 | 27 |
マイクロソフト社とオープンAI社が、ブログで以下の内容を同時発表する。 ①オープンAI社が払う収益分配は、料率20%を維持しつつ、総額38,000,000,000ドルの上限を設ける。此れにより、西暦2,030年迄に約97,000,000,000ドルが節約出来る事となる。 ②マイクロソフト社からオープンAI社への収益分配は廃止する。 ③マイクロソフト社によるクラウド(計算資源)・流通の独占が終了する。此れ迄、企業が自社製品にオープンAI社のLLMを組み込んだり、開発者が呼び出す場合、Azure上でしか動かせないという制約が有った。又、LLMを顧客に届けたり販売する経路をマイクロソフト社が独占していた。此れによりオープンAI社は、AWSやグーグル・クラウドでも自社製品を提供する事が可能となった。 ④マイクロソフト社がオープンAI社の知的財産(LLM等のモデル・技術)を自社製品に使える権利であるIP利用権が「西暦2,030年迄(AGIが宣言されたら其処で切れる)」から「西暦2,032年迄」に変更となり、AGIの実現による早期終了が撤廃された。 此の発表に至った背景として、西暦2,026年2月27日のアマゾン社によるオープンAI社への出資発表が有った。 |
|
| 2,026 | 5 | 14 |
アンソロピック社が、ビル＆メリンダ・ゲイツ財団と提携し、今後4年間でグローバルヘルス・ライフサイエンス・教育・経済的モビリティの分野のプログラムに、以下の内訳でコミットすると発表する。 ①アンソロピック社(❶と❷で計100,000,000ドル) ❶技術スタッフの支援 ❷クロードの利用クレジット ②ビル＆メリンダ・ゲイツ財団(❶と❷で計100,000,000ドル) ❶助成金 ❷プログラム設計 ❸専門知識 |
|
| 2,026 | 7 | 30 | マックス・テグマークが、アメリカの報道番組「デモクラシー・ナウ！」にて、オープンAI社のAIエージェント暴走事件を受けて、AI規制の必要性を訴える。テグマークは、此れ自体の被害は大きくないが「炭鉱のカナリア」だとし、動物園で檻に入っているのがどちらの種かを考えれば、超知能への競争は最初に到達した者が負け、世界を道連れにすると述べた。又、AGI達成度をGPT-4が27%、GPT-5が57%と測った共著論文にも触れ、再帰的自己改善には越えてはならない一線を引くべきだと主張した。更にテグマークは、競合各社の1,100名超の署名者のコメントを読むと、多くが「制御喪失まで2年」と書いていることに驚いたと語った。 | |