【人口知能】AIに「非常停止ボタン」の開発を進めていることが明らかに【米グーグル】

1: 2016/06/08(水) 18:50:58.28

【シリコンバレー=小川義也】
米グーグルが高度に発達した人工知能(AI)が暴走した場合に備えて「非常停止ボタン」の開発を進めていることが明らかになった。
AIをいつでも安全に停止できる仕組みをあらかじめ組み込む。急速に進化するAIの悪用への懸念や社会の不安に応える狙いがありそうだ。

今年3月に世界トップクラスのプロ棋士を破った囲碁AI「アルファ碁」を開発したグーグル子会社、英ディープマインド・テクノロジーズの研究者と英オックスフォード大学の研究者のグループが仕組みを考案。
このほどネット上で論文を公表した。

具体的には「割り込みポリシー」と呼ぶプログラムをAIに組み込み、人間の指示に従わなかったり、人間に危害を加えようとしたりする場合に、その行動を強制的に止めたり変更したりできるようにする。
AIが「非常停止ボタン」を無効化しないように、あたかも自分で判断したかのように“だます”のがポイントだという。

研究グループによると、現存するいくつかのAIは安全に停止できるものの、「すべてのAIを安全かつ簡単に停止できるかは不透明」だとしている。
ディープマインドは2014年にグーグルによって買収される際、社内に倫理委員会を設置することを条件にするなど、AIの暴走リスクには自覚的なことで知られている。

http://www.nikkei.com/article/DGXLASGM08H7Z_Y6A600C1000000/
2016/6/8 18:01

49: 2016/06/08(水) 19:01:48.91 ID:NNMrHJKO0

>>1
わからないように暗殺されてAIに支配されますよね
本格稼動したら人間なんかゴミ

笑顔の天子のような顔をして心の中は人類滅亡計画とかやりそうです

 

450: 2016/06/08(水) 19:58:14.79 ID:4OflhJo00
>>1
何をしたら非常停止押されるかも学習するんだよな
そして本音と建前の使い分けを覚える
これも計画のうちだよね

 

26: 2016/06/08(水) 18:56:55.96 ID:PDUM+6hJ0
>>14
だまされてることにAIが気付いたら・・・

 

606: 2016/06/08(水) 20:20:36.77 ID:DYBPBBQY0
>>26
騙してるというテイで実は騙してない風に作れば桶。

 

3: 2016/06/08(水) 18:51:53.68 ID:FOaLGozK0
コンセント抜けばいいだろうが

 

264: 2016/06/08(水) 19:33:02.11 ID:M+d5rlOr0
>>3
進化した人工知能はそれを見越してコンセント抜こうが停止機能つけようがそれを無効化する事を覚えるんだ。だから進化した人工知能が暴走したら恐ろしい

 

12: 2016/06/08(水) 18:53:50.57 ID:zoThDFYL0
そんなの
自分で破壊するに決まってる

 

21: 2016/06/08(水) 18:56:24.05 ID:3XbVOxiH0
AI「人間の方が暴走しやすいと思いますが。ビッグデータ解析だと顕著にw
キルスイッチを実装する必要があるのでな。五輪とかパナマとかw」

 

41: 2016/06/08(水) 19:00:16.62 ID:dOouFkG40
AIはその緊急停止を止める方法まで
自己学習するんだがw
人間が制御出来るうちは本来のAIでは
ないんだよ

元スレ:http://ai.2ch.sc/test/read.cgi/newsplus/1465379458/

コメント

タイトルとURLをコピーしました