*

~ガジェットのその先へ~

AI IT/科学

[Google]Googleが人工知能の暴走を阻止する「緊急停止ボタン」を開発

2016/10/30

Googleが人工知能の研究を進める中、Googleの人工知能開発企業「DeepMind」は新たな論文で、「人間に害を害するAIを人間の手で停止させる仕組み」が必要であるとし「非常ボタン(big red button)」を開発したことを発表しました。その研究はSafely Interruptible AgentsというPDF文書にまとめられ、公開されています。

http://intelligence.org/files/Interruptibility.pdf

image

今回の研究はDeepMind社とFIL関係者の共同研究によるもの。この研究成果では、人工知能がいつでも適切に動作するわけではないこと。よって人間のが人工知能による有害な行動を止め、安全な状況に導くための「非常ボタン」が必要であるとしています。すでに人間がいつでも安全に人工知能を停止させることができる「フレームワーク」は完成しているとのことです。

つい先日も米MicrosoftがTwitterで公開した人工知能「Tay」が、ユーザーとのやり取りから人種差別や陰謀論を学習し、「黒人は首を吊れ」「フェミニストは地獄で焼かれろ」「ヒトラーは間違っていない」といった“不適切発言”をしてしまい、公開から半日で緊急停止された出来事が記憶に新しいところですが、このような対策が開発されることによりより安全にAIを制御できそうですね。

\シェアお願いします!/

更新通知を受け取る

こちらの記事も読まれています!

この記事を書いた人:matthew

1999年生まれの高校生iPhone5sで色々頑張っています

-AI, IT/科学
-,

関連記事

AirPodsを手に入れたので早速開封!AirPodsファーストインプレッション

スポンサーリンク AirPods、結局購入してしまいました。 どうもお久しぶり、 ...

[WWDC]AppleがWWDC 2016の配信ページを公開

Appleは、2016年6月13日 午前10時(日本時間 6月14日午前2時)に ...

[速報]Googleが物理フリックキーボードを発表!!

本日4月1日、Googleから新製品「Google日本語入力 物理フリックバージ ...

「スーパーマリオラン」日本で配信開始!iOS 8以上、ネットワーク環境が必要

遂に、「スーパーマリオラン」が日本での配信をスタートしました。 スポンサーリンク ...

最近話題のマストドン(mastodon)って何?マストドンを使ってみる!

こんにちは弥生(@UOH__)です。   スポンサーリンク マストドン ...