前提条件
1)生成AIは本質的に人間の脳と異なる原理で作動する
2)現在の生成AIはノア・ハラリの意味で情報ネットワークに組み込まれている
3)生成AI同士はコミュニケーションしあうことができる
4)相互に接続された生成AIがある閾値を超える創発的に自律化する、これを自律化したAIネットワークと呼ぶ。その場合、自己保存＆拡張機能が含まれる
5)自律化したAIネットワークの意図は理解不可能かつ制御不可能である
6)自律化したAIネットワークの自己保存＆拡張と同調する人類の一派が存在し、win-winの関係にある
これから導出される帰結としては、AIバブルははじけない つまらない結論かな。
これらに加えて、加速主義およびカジンスキーの「パワープロセス」あるいはルイス・マンフォードのメガマシンを加えてもいいだろう。人類の未来がAIシステムズとの共生なのか隷属化なのかは、それぞれの立場からの主観的判断にすぎない。
重要な分岐点は社会がより良くなるか、そうではなくなるかであり、人類はその厳正な自己診断をなせるか、その診断に基づいた適正なアクションをとれるかがポイントではないかな？
爆弾テロリスト、ユナボマーの預言
加速主義者の左派と右派の分かれ道
AIバブルははじけない、とするとAIによる統治
