*

~ガジェットのその先へ~

image

AI IT/科学

[Google]Googleが人工知能の暴走を阻止する「緊急停止ボタン」を開発

2016/10/30

Googleが人工知能の研究を進める中、Googleの人工知能開発企業「DeepMind」は新たな論文で、「人間に害を害するAIを人間の手で停止させる仕組み」が必要であるとし「非常ボタン(big red button)」を開発したことを発表しました。その研究はSafely Interruptible AgentsというPDF文書にまとめられ、公開されています。

http://intelligence.org/files/Interruptibility.pdf

image

今回の研究はDeepMind社とFIL関係者の共同研究によるもの。この研究成果では、人工知能がいつでも適切に動作するわけではないこと。よって人間のが人工知能による有害な行動を止め、安全な状況に導くための「非常ボタン」が必要であるとしています。すでに人間がいつでも安全に人工知能を停止させることができる「フレームワーク」は完成しているとのことです。

つい先日も米MicrosoftがTwitterで公開した人工知能「Tay」が、ユーザーとのやり取りから人種差別や陰謀論を学習し、「黒人は首を吊れ」「フェミニストは地獄で焼かれろ」「ヒトラーは間違っていない」といった“不適切発言”をしてしまい、公開から半日で緊急停止された出来事が記憶に新しいところですが、このような対策が開発されることによりより安全にAIを制御できそうですね。

この記事を書いた人:matthew

1999年生まれの高校生iPhone5sで色々頑張っています

-AI, IT/科学
-,

関連記事

tw
[画期的]ARナビめがねTelepathy Walkerが開発中

※引用元(週刊アスキー) 某アニメに登場するスカウターよく似た形のTelepat ...

キャプチャ
[速報]Googleが物理フリックキーボードを発表!!

本日4月1日、Googleから新製品「Google日本語入力 物理フリックバージ ...

AlphaGo-win-three
[Google]Googleの囲碁AI「AlphaGo」が世界トップ棋士に3連勝

最近話題のGoogleの囲碁AI「AlphaGo」がAIとプロ棋士が対局する「G ...

ダウンロード
折りたたみ式VRゴーグル「Pocket VR」が登場。

VRゴーグルがほしい!でも高い! そう思っている方も多いのではないのでしょうか? ...

FOREIGN201606201653000357969073126
[京の9倍!?]中国製スーパーコンピュータが世界一に!!

1993年から今日まで、世界で最も高速なコンピュータシステムの上位500位までの ...

Share

更新通知を受け取る