超知能AIをつくれば人類は絶滅する
エリーザー・ユドコウスキー＆ネイト・ソアレス『超知能AIをつくれば人類は絶滅する』を読む。この本が書かれたのは2023年頃ということになると思うのだけれど、フロンティアモデルの開発者がAIの脱走を報告する今日において、その指摘の説得力はいや増しているというほかない。ジジェクが第3次世界大戦が始まっていると認識することなしに現在の危機に対応することはできないと主張したのと同様、SAIが人類を滅ぼすという補助線を引いて現在のリスクを評価して対応を進めるべきという議論や、ここに試みられている寓話そのものには説得力がある。
その説得力を踏まえて現状をみると、この3年に何らかの自制が機能したようにはみえず、事態がエスカレーションしているのは周知の通り。自律的自己改善によるAIの改善が明確な開発目標になっているところを考えれば、この論は予言的に機能しているとさえいえる。そしてSAIによって人類が滅びるのであれば、その過程は何が起こっているのかさえわからないほど奇妙なできごとの連鎖になるという点こそ、この本のもっとも説得力のあるポイントなのである。
Published on:
Categories: 本