研究館のホームページの「みんなの広場」で、どんぐりさんからの「悪は存在しない」というテーマでの映画のお話から悪のことを考えていましたら、いしさんから汎用人工知能（AGI）のお話が出てきました。ここでどうしても悪と並べて間違いと愚かさについて考えなければならないと思えてきました。

悪はそもそもいけないものとして抑制がかかりますが、間違いと愚かさは誰もがついやってしまう行為の中にあります。ここで大事なのは「人間は愚かで間違いを犯す存在である」という認識があることです。ところが・・・ここが考えどころです。

最近考えずにいられないのは戦争です。ニュースでAI兵器のことが報じられました。「急速に開発が進んでおり、対象が男性であるかどうかを20秒で判断して攻撃できる優れた能力をもつ兵器ができた」という説明を聞き、ゾッとしました。そもそも兵器などない社会が望ましいことはもちろんですが、これまでの経緯で私たちの社会には兵器があります。核兵器は、用いたら人類の未来が危ういことは誰にも分かっていますから、抑止力だと説明されています。本当は、誰かが血迷ってボタンを押さないことを願いながら、廃棄の努力をするのが人間としてやるべきことでしょう。間違いと愚かさに思いをはせながら。映画『オッペンハイマー』が今作られたのも一つのメッセージなのではないでしょうか。その先には、もちろん兵器など何もない社会があります。生命誌はそのような社会が当たり前になることを求めており、着実に行こうと思っています。

そこに登場したAI兵器です。これまでの兵器とまったく異なり、「判断を機械に任せる」のです。とんでもないものだと思うのですが、そのような認識は感じられません。そもそもAIに関わっている人たちが人間についての理解がまったくできていないのですから、ここにある間違いと愚かさに気づかずに開発が進められる危険があります。悪より困った動きです。

いしさんが引用して下さった、AI開発を進める企業トップの「10年以内に人類の叡知の10倍のAGI」という言葉には驚きました。迅速な大量データ処理ができるようにはなるでしょう。でも「人類の叡智」はそんなものとは全く違うものです。この間違いに気づかない人が事を進めているのです。そもそも「叡智の１０倍」という表現には笑う他ありません。最初に紹介したニュースでも、「20秒で判断」という能力を強調していました。「判断」の内容の本質などより、20秒という速さが評価されているのです。相手を殺すかどうかの判断に必要な叡知。そもそも人を殺すとはどういうことかと考え悩む気持ち。そんなものには何の関心もないのです。量と速さを叡智とする間違いと愚かさが傲慢を生んでいる状態で兵器が作られているのですから、背筋が凍ります。

大量データと速度で動く社会（この処理には大量のエネルギーも使われています）をこのまま続けてよいのかと本質を問う時が来ています。40億年かけて地球上に生まれた生きものたちの世界に登場したホモ・サピエンス（賢いヒト、つまり叡智を持つ生きもの）としては、生きものとして自分で考え、行動するのが本来の姿なのですから。

どんぐりさんと、いしさんからいただいたのは、このような書き込みです。