2016年06月09日

GoogleのAI「割り込みポリシー」機能

Googleが、AIプログラムに「割り込みポリシー」という非常停止機能(ボタン?)を組み込むということで・・・。

AIが暴走したときに備えるらしいのですが、特に動きがあるロボットに対しては良さそうですね、という程度に受け止めましたが・・・。

人間の指示に従わず、人間に危害を加えようとしたら、その行動を強制的に停止・変更できるようにするようですが、AIが自分でこの非常停止機能を無効化する(無視する)可能性もあるようで!! 対策としては、あたかも自分で判断したかのように「だます」、いやもうすでに怖いですが!!

じゃあ、それが物理的なボタンなら「押させない」動きもできるわけでね? それが遠隔操作なら、通信部分を切断されたら聞き入れないわけですね? システム破壊などしなければ、再び起動したとき、AIが対策を打ってくるかもしれないですね?

AI開発システムがツールキットになったりしたら、自由に悪用されそうですね。規制が有効とは思いませんが、こういう心配が必要な時代になってきた、ということですね。
posted by masa at 16:31| 東京 ☁| Comment(0) | TrackBack(0) | 雑記 | このブログの読者になる | 更新情報をチェックする
この記事へのコメント
コメントを書く
お名前: [必須入力]

メールアドレス:

ホームページアドレス:

コメント: [必須入力]


この記事へのトラックバック