見出し画像

人類は、もう2度と失敗を許されない 僕らの学習帳 vol.044

バグ。それは、コンピューター上のエラーのことで、誤作動のことです。人類は、歴史上このバグを乗りコネあがら進化・進歩してきました。

あらゆるテクノロジーに完璧を想定することは難しいため、事故や失敗から学び、そこに修正をほどこしてきました。

火の発明の後に、安全装置や消火器、非常口、火災報知器、消防署など、火による災害に対処する方法を発明してきました。決してその逆ではありません。

自動車の発明の後に、交通ルールやシートベルト、エアバッグ、オートブレーキシステムなどを発明してきました。

当たり前ですが、シートベルトを発明してから、自動車を発明したのではありません。

このようにバグを防ぐ、減らす方法を発明することによって、僕らは発明から得られる恩恵を、被害よりも大きくし続けてきました。(もしそれが逆だったら、その発明は後世には残らないでしょう)


この発明が、テクノロジーが高度になればなるほど、その恩恵は拡大すると同時に、その被害も膨らんでいきます。そして、核兵器のように、ものによっては、一度の失敗も許されないテクノロジーが存在します。

そして、AIや人工知能もそれになるかもしれないのです。

発明されて起動した後に、事後的に安全装置をつけようとしたところで、すでに手遅れ。その可能性を否定できません。


だからこそ、僕らは、人工知能のバグを事前に防ぐ方法を見つけ出さなければいけないのです。もしくは、超知能や汎用人工知能と呼ばれる、人間の知能を超える人工知能が発明される前に、防がれなければいけません。

それは、自動車を発明する前に、シートベルトを発明する以上に困難かもしれません。それでも、僕らはそれを諦めるわけにはいかないようです。


そこで、筆者は過去に起きたロボットや人工知能などによる事故の事例をあげてくれています。

工業ロボットが人間を誤って、怪我させてしまった事件。金融システムが、誤作動を起こして、大規模な経済的損失を生んでしまった事件。打ち上げ時のミスによってロケットが墜落した事件。などなど。

すでに、どうやれば「シートベルト」を作ることができるのかのヒントは存在します。それを丁寧に研究して、バグを減らすことが必要なのです。



今回の僕らの学習帳は、「LIFE3.0 人工知能時代に人間であるということ」の第3章「近未来ーブレイクスルー、バグ、法律、兵器、仕事」から、お話ししました。

今回の話について、もっと詳しいことを知りたい人は、動画・音声をぜひ聞いてください。

僕らの教室

僕らの放課後(youtube)

僕らの放課後(podcast)

SUGOIの最新情報は、twitterをご覧ください。


僕らの学習帳は、「遊びたりない、学びたりない人」に向けて、クリエイティブにまつわる遊び=学びを伝えるコンテンツです。

講義スタイルの「僕らの教室」、ラジオスタイルの「僕らの放課後」と合わせて読んでいただくと、より遊びも学びも深まります。

ぜひ一緒に、もっと遊び、学びましょう!


あと、5分だけください👉

あなたのスキに感謝です。サークルもよかったら見てください!
2
「愛とアイデアのあふれる世の中をつくる」をビジョンにかかげる、クリエイターだけの会社。 (ちなみに、社名のSUGOIとは、愛とアイデアがかけ合わさって生まれるときに、自然に出てくる感動の一言から) 2023年までにティール組織になることを目標に、メンバーを募集中。

こちらでもピックアップされています

僕らの学習帳
僕らの学習帳
  • 118本

平日毎日更新の学習帳です。本の内容を解説する「僕らの教室」、その教室の内容についてトークする「僕らの放課後」この2つのコンテンツの内容をコンパクトに文字でまとめています。合わせて楽しんでください!

コメントを投稿するには、 ログイン または 会員登録 をする必要があります。