AI Vol:06「世界に鳴り響く、AIへの警鐘」

AIは我々の生活を豊かにする存在なのか、それとも我々の生活を脅かす危険な存在なのか。今後もこの議論は尽きないことでしょう。今回は、AIにどのような脅威性があるのか、一度立ち止まって考えてみたいと思います。

AIは危険ですか？　それは、なかなかおもしろい質問ですね by Siri

世界の実権は、いずれロボットの手にわたる—
そんな未来図をイメージしたことがある人は多いと思います。また、きっとそうなるかもと考えている人もいるかもしれません。この未来図はどこからやってきたか？

『ターミネーター』や『オートマタ』、『2001年宇宙への旅』などの映画。また、テクノロジーに翻弄されるという意味では大友克洋氏の漫画『AKIRA』も、メアリー・シェリー氏の小説『フランケンシュタイン』もそうかもしれません。行き過ぎたテクノロジーゆえの悲劇。多くの人が描くこの未来図は、これらの名作と縁の深いもののようです。もちろん、悲劇ばかりではありませんが、“まだ見ぬ未来”のイメージほど、人を惹きつけるものはありません。

果たして、そんな未来は本当にやってくるかどうか？　については、わかりません。しかし、この終末観が今、注目を集めています。そして、その理由として、多くの人が思い浮かべるのがAI。産業を押し上げ、さまざまな分野にイノベーションを起こすと期待される一方で、「危険なテクノロジー」だという警鐘も鳴らされているのです。

果たしてAIは、希望なのか絶望なのか。安全なのか、危険なのか。

今回は、世界の学者や識者の発言をもとにして、AIの脅威性を検証していきたいと思います。

世界ではワタシたちの倫理を定める検討も行われています

・「ダニエラ・セルキ教授（ローザンヌ大学）」

人類学者であるダニエラ・セルキ教授はフランスのAFP通信の取材を受け、こう話しています。

「人間の能力を凌駕する機械になりつつある。今後、機械に人命に関わる責任をゆだねることになるだろう。」
参考：http://www.afpbb.com/articles/-/3033764

・「ヒュー・プライス教授（ケンブリッジ大学）」

哲学者であり、スティーブン・ホーキング博士との論争でも著名なヒュー・プライス教授。現在、「CFI」という、AIが人類に与えるリスクなどについて議論を行い、安全性や恩恵を検討する団体のセンター長も務めています。

「AIはプログラムに従い、設定された目的対し機能の最適化を行う。もし強力なAIが誕生した場合、人間が正確な指示を出さなければ、何が起こるかわからない。目的を遂行するために、自らの電源を落とさせないようにするかもしれない。」
参考：http://gendai.ismedia.jp/articles/-/51744

・スティーブン・ホーキング博士（理論物理学者）

先日、惜しくも故人となってしまったスティーブン・ホーキング博士ですが、偉大なる理論物理学者は、AIを認めつつこう警鐘を鳴らしていました。

「人工知能の研究開発により訪れる潜在的な利益は大きい。人々の考えがAIに支えられたとき、どのような効果が生じるか予測できない。この技術革新から、従来の技術革新で起こしてきた自然災害をも回復できるかもしれない。」

「強力なAIの誕生は、人類史上最悪、または最良の結果をもたらす可能性を持つ。AI自体が兵器になるかもしれないし、少数で多数を制圧できるツールになるかもしれない。また、人類の競合になる可能性もある。」
参考：https://roboteer-tokyo.com/archives/6331

・「イーロン・マスク（事業家）」

革新的な電気自動車メーカーテスラ、ロケットの研究開発で知られるスペースX、オンライン決済代行サービスのペイパルの創業者であり、さらに複数の事業を展開する稀代の事業家イーロン・マスク。AIに警鐘を鳴らす人物のなかでも、とくに危機感を持った発言をしている人物として知られています。

「人類が直面した危機である。だが、現時点では現実味に乏しく、人々はその危機が現実となるまで理解ができない。そうなる前に、前もって規制をかけておくべきだ。」
参考：https://gqjapan.jp/life/business/20170901/elon-musk-s-future-shock

以上から見ると、急激なAIの進展と「強いAIの登場」には人間に大きなリスクを及ぼす可能性があることがわかります。実際にリスクが現実のものとなるかは不明ですが、その潜在的可能性はきわめて大きいと推測できます。

しかし一方で、昨今のAI動向はすでに「AI倫理」の方針を検討する活動も活性化しています。2017年1月には、カルフォルニア州のマシロマに世界から著名な人工知能研究家や経済や哲学の専門家などが一同に集結。「人類にとって有益なAIとは？」をテーマに議論が行われ、翌月にAIの安全ガイドライン「マシロマAI 23原則」としてまとめられました。

これを機にして、世界的な電気・電子工学分野専門家組織「IEEE」もAIの倫理課題を検討する文章を公開。さらに、日本でも、人工知能学会が「人工知能学会　倫理指針」を作成・公開しています。

ここから見れば、現在は、ただ開発・利用するだけではなく、正しく扱おうとするフェーズであり、一歩あたらしい時代に突入したといえます。

よい世界とは、どのようなものですか？

さて、今後どのようにAIが進化し、またそれをどのように人々が受け入れていくのか。雲を掴むような話題ですが、ホーキング博士の話したように、人類そして地球にとって素晴らしい恩恵をもたらすテクノロジーとなることを待ちたいと思います。

また、AI倫理について。人が、人の知能を模したAIの倫理を煮詰めていく。これは、AIから「人類自身」を見つめていく作業ともいえるかもしれません。人類が常に抱いてきた戦争や自然破壊などの課題。それを、再考、または改善するきっかけになる可能性もあるのではないでしょうか。

【執筆：編集Gp　坂本 嶺】