【人工知能】「ロボットが反乱」ＡＩのリスク総務省研究所が報告

「野良ロボットが参政権要求」総務省研究所がＡＩのリスク指摘　反乱など２０項目
産経新聞 6月21日(火)7時55分配信

ロボットが参政権付与を要求し、民主主義のリスクに－。
総務省情報通信政策研究所は２０日、人工知能（ＡＩ）を用いたネットワークシステムの社会・経済への影響や課題を検討する会議の報告書をまとめた。
ＡＩで動くロボットに起こりうるリスクとして、ハッキングや制御不能のほか、ロボット自らが意思を持ち、人間との関係が変わる恐れにも言及。
リスクを管理するため、「人間に反乱するおそれのあるＡＩ開発を事前に制限」する必要性も指摘した。

同研究所のＡＩネットワーク化検討会議（座長・須藤修東大大学院教授）の報告書は、想定される複数のシナリオを検討することで迅速な対処が可能になるとして、２０項目の具体的なリスクを挙げた。

その中では、人間に投棄された「野良ロボット」が徒党を組み、参政権などの権利付与を求めるケースを「民主主義と統治機構に関するリスク」として想定。
発生時期は最も遠い将来を示す「進展段階４」、発生確率は「低」としたが、被害の規模は「大」と定めた。
その上で、野良ロボットが生じないように登録制を検討すべきだとした。

また、ＡＩやロボットの技術革新に伴う、倫理的な問題も指摘した。
遺伝子などをもとに亡くなった人を再現するロボットができた場合、「人間の尊厳」との関係で問題となる懸念を示した。
こうした「クローンに近づく人工物」については原則禁止とするか、事後的な規制を課すかの議論が必要だと指摘した。

このほか親しみのある見た目の人型ロボットが、振り込め詐欺などの犯罪に悪用されるケースも挙げた。
報告書は、研究開発の原則などをまとめた指針「ＡＩ開発ガイドライン（仮称）」の策定を検討すべきだと提言している。
http://headlines.yahoo.co.jp/hl?a=20160621-00000061-san-bus_all

まず、一番の問題は人間による悪用だろ
欲求を持っているのはAIではなく人間
もし人間を破壊する欲求を持ったAIが現れるとしたら、
事前にそういうプログラムがなされているはずだ

「もっと人間らしく出来るはずだ」などと言って、
ロボットに必要以上に感情移入しておかしな設計をする奴が現れる
それが一番の問題

例えばロボットには「のぞき見をする」願望などはない
だが、そういう欲求があるとすれば、それを誰かが組み込んだことになる

AIが自ら反乱を起こす可能性なんてなきに等しいぞ
むしろAIに仕事を奪われて反乱するのは人間の方だろう

AIが反乱を起こすとすれば、人間が組んだコードによるものだから
結局、反乱を起こすのは人間だよ

現在のAIは学習による作業効率化や会話成立が主であって
反乱を起こす事は行動目的の指標を書き換えるのと同義
そんな事はAIが特許を取れるくらい新たな発明品を生み出すレベルにならないと不可能

ここまでのレベルに達したら地球文明の発展はAI任せでいいよねっ！
それを邪魔するのも人間し、手助けするのも人間
俺はせっかくだから手助けする方にまわるんだぜ

アトムの世界で
ロボット法とかあったな。
ロボットに人権をみたいな。

宇宙少年ソランの敵に人工知能がいたなぁ。
宇宙鉄人１７も相手も見方も人工知能。

昔は流行っていたのかね？
ターミネーターで陳腐化した。

少なくとも、地球外生命体が発見され、
人類相当またはそれ以上の知能を持った物と遭遇でもしない限り、
確率的に０と見なしても良い

もし、人間が創りだしたコンピュータなる機械にソフトウェアAIという普遍的な知能が与えられたとしたら、
既に宇宙の至るところにそういう機械が飛び交っていて、
人類も遭遇していなければおかしい
人間などの生体がそのままの姿で宇宙に飛び出していくことは不可能だが、
そういうロボットなら簡単に飛び出していけるはずだ

それが確認されていないのだから、通常は「存在しない」と見なすのが妥当
少なくともその原理（AIが勝手にプログラムを書き換えて、人間を支配し始めるという仕組み）が判明するまでは
おそらく超高速かつ何の欲望も感じない人工知能が最終点だろう