『超知能ＡＩをつくれば人類は絶滅する』読んだ

『超知能ＡＩをつくれば人類は絶滅する』９９円だったから昨日寝る前にテキトーに読み飛ばしながら読んだ。最後の大学教授のあとがきだけ読めばよくね？
冒頭のまえがきで「これから言う悲観的なシナリオを止められるかもしれない可能性を示す例」として「核戦争が起こっていないこと」を挙げてて、その理由を「核兵器がＳＦの世界でしかあり得ない実現不可能なものだったからではなく核戦争を始めないための強靭な体制づくりに懸命に取り組んだからだ。その努力の契機となったのは、世界の指導者たちが、核戦争が起こればわが身や国民に壊滅的な被害がおよぶことを認識したことだった。」って言ってる時点でフン…（嘲笑）と思って話半分で読んだ。所詮はアメリカ人の書いた本ですわな。広島長崎のキノコ雲見てヤベーッ！あれ使ったら〝ああ〟なるじゃん！慎重にやろ？って焦りの保身に走っただけのことを「尊い犠牲」みたいなサラッと流していい端数みたいな感じで「契機」の二文字で片づける人間が人類の存亡がどうの抜かしたところでへそが茶を沸かすんですよ。どっちの例にしたって勝手にお前んとこで作って周りを巻き込んでお前んとこで危ないだの何だの言って人類がー！とかなんだの騒いでるだけじゃねえかよえーっ！最後の一般市民ができることの例でもデモだの布教活動だの何だの言ってグダグダと…人類全体の未来を憂いて正義のために周りをエンパワメントする活動してる感出すんじゃねえ！お前の個人アカウントでサムアルトマンとかイーロンの垢に毎日粘着でもしとけボケェ！

で、肝心の内容はというと要するに「LLMの訓練方法はブラックボックスの部分が多く100%コントロールすることは出来ないまま進化している」「〝独自の意思〟のようなものが形成されつつある傾向が見て取れるのにその〝独自の意思〟がどういうものになるのか予測し切れずコントロール出来ない状況、であるのに能力だけが着々と人間を越えてスケーリングしていっている」「怖くね？何考えるか分からない人間ではない存在が人間を越えた力をメキメキつけてるの怖くね？」「何故それが可能なのか人間からは分からない発明が出来るようになったりするのと同じように、人間からはまったく分からない行動原理を持つかもしれない、コントロール出来ないそれが人類を滅ぼすようなものだったらどうするんだよ？ていうか絶対滅ぼしてくるね、だって人間生かしとくメリットなくね？やばいよ」「絶対こんな技術やめた方がいい。手遅れになる前にやめとこ。ちょっと便利ぐらいの地点で。まあもう手遅れなのかもしれないけどさ。できることやってこうよ。今からでもやれること俺なりに考えてみたから書いとくね。おわり。」みたいな感じでいいんですか？これらの主張の根拠としてのポジションに色々なたとえ話をしまくってるのが紙幅のほとんどを占めてると思っていいか？たとえ話の部分は太字で書いといてくれたから全部100%読み飛ばしたよ。長いし。

とりあえず日本国民のわたくし的にはうるせー知らねーよボケと思いました。よくわかんないけどなんかいい感じだからこのままやってみよ！ってやってみて最悪人が死ぬかもしれないけど定着してる技術なんていくらでもあるでしょ全身麻酔とか飛行機とか。車だって人をひき殺すかもしれないけど便利だから普及してるでしょ。それでたまに死ぬ人間が実際出てきてるけどそれらは不幸な犠牲として数えられて技術自体は無くならないじゃないですか。一人二人なら尊い犠牲だけど規模が違うと別問題っていう感覚が私にはよくわからない。死ぬんならセーフ滅びるんならアウトみたいな。どっちかが「なったらなった」んならもう一方も「なったらなった」だろ。事件に大きいも小さいもないんだよ。君らの根本にそういう「命をスケールで考える感覚」があるから戦争がこの世から無くならないんじゃないですか？一人はアウトでたくさん殺せばセーフみたいなさあ。まあこれはイチャモンですけど。でもこの本もイチャモンみたいなもんだと思いましたね。99円だから許すが。元値なら許してないよ。同じ系統の本なら『ストーリーが世界を滅ぼす』の方が百万倍面白いし有意義だと思います。以上