人工知能に目標を持たせられることに成功したとして、その目標は一体何にするべきなのか？という問題について考えてみましょう。

たとえば、より良い世界を目指すために、人工知能を使うべきだという主張は正しいように聞こえますが、そのより良いというものは、一体誰が決めるのでしょうか？

アドルフ・ヒトラーが描いたより良い世界、とキリストが描いたより良い世界と、あなたが描いたより良い世界は、おそらく一致しないところがあるはずです。

そうすると、人工知能の開発を進めれば進めるほど、僕らは倫理的な問題に悩まされることになるのです。

幸福とはなんなのか、正義とはなんなのか、真理とは、美とは、平和とはなんなのか、と。

そんななかで、筆者は議論を進めるために、４つの原理にまとめることを提案しています。

その４つとは、功利主義・多様性・自主性・継承性です。

これらを大雑把にまとめるとこのようになります。良い経験を最大限に増やし、苦しみを最小限に減らし（功利主義）、その上で、同じような経験だけが繰り返されないように、多様な経験ができるようにし（多様性）、それぞれの主体が自由を追求することができ（自主性）、このシナリオを継続できるようにする（継承性）というものです。

こうまとめると、これに反対する必要はあまりなさそうである。

功利主義によって、より良い経験が増え、さらに、多様な経験が保証され、個人の自由が尊重され、それらが継続されていく。

しかし、このなかで、どれがより良い経験なのかなどを考え出すと結局振り出しに戻ってしまうのである。
さらに、問題なことは、この経験や個人というものに、AGIという存在が考慮されるのかどうかである。

もし考慮されるのであれば、彼らはこの原理に同意するのかどうかから改めて考え直す必要があるのです。

人工知能という問題は、まるでテクノロジーの問題であり、人間VS機械という簡単な２元論の問題である。そんなふうに語られることが多いものですが、実際には、正しいとは何か？などの人間の倫理にまで踏み込んでくる問題だったのです。

そして、人工知能が開発される未来がすぐそこまで迫っている現代では、この問題を先延ばしにすることはもう許されなくなってしまうのです。

今回の僕らの学習帳は、「LIFE3.0 人工知能時代に人間であるということ」の第７章「目標」から、お話ししました。

今回の話について、もっと詳しいことを知りたい人は、動画・音声をぜひ聞いてください。

僕らの教室

僕らの放課後（youtube）

僕らの放課後（podcast）

SUGOIの最新情報は、twitterをご覧ください。

僕らの学習帳は、「遊びたりない、学びたりない人」に向けて、クリエイティブにまつわる遊び＝学びを伝えるコンテンツです。

講義スタイルの「僕らの教室」、ラジオスタイルの「僕らの放課後」と合わせて読んでいただくと、より遊びも学びも深まります。

ぜひ一緒に、もっと遊び、学びましょう！