*

~ガジェットのその先へ~

AI IT/科学

[Google]Googleが人工知能の暴走を阻止する「緊急停止ボタン」を開発

2016/10/30

Googleが人工知能の研究を進める中、Googleの人工知能開発企業「DeepMind」は新たな論文で、「人間に害を害するAIを人間の手で停止させる仕組み」が必要であるとし「非常ボタン(big red button)」を開発したことを発表しました。その研究はSafely Interruptible AgentsというPDF文書にまとめられ、公開されています。

http://intelligence.org/files/Interruptibility.pdf

image

今回の研究はDeepMind社とFIL関係者の共同研究によるもの。この研究成果では、人工知能がいつでも適切に動作するわけではないこと。よって人間のが人工知能による有害な行動を止め、安全な状況に導くための「非常ボタン」が必要であるとしています。すでに人間がいつでも安全に人工知能を停止させることができる「フレームワーク」は完成しているとのことです。

つい先日も米MicrosoftがTwitterで公開した人工知能「Tay」が、ユーザーとのやり取りから人種差別や陰謀論を学習し、「黒人は首を吊れ」「フェミニストは地獄で焼かれろ」「ヒトラーは間違っていない」といった“不適切発言”をしてしまい、公開から半日で緊急停止された出来事が記憶に新しいところですが、このような対策が開発されることによりより安全にAIを制御できそうですね。

\シェアお願いします!/

更新通知を受け取る

こちらの記事も読まれています!

この記事を書いた人:matthew

1999年生まれの高校生 iPhone5sで色々頑張っています

-AI, IT/科学
-,

関連記事

Huawei P10(VTR-L29)を購入したので、開封&簡易レビュー

スポンサーリンク Huaweiの新機種、Huawei P10を入手! どうも、数 ...

[速報]Googleが物理フリックキーボードを発表!!

本日4月1日、Googleから新製品「Google日本語入力 物理フリックバージ ...

Android版「スーパーマリオラン」の事前登録が受付開始!Android版の事前登録をする方法

先日、iOS版が配信された「スーパーマリオラン」ですが、遂にAndroid版の事 ...

新型MacBook Proはヤマダ電機で値引きしてもらえるのか?

今日は弥生です。今回は、前回購入レビューを書いたMacBook Pro(MBP) ...

iOS版Google Driveアプリに「iOSからAndroidへのデータ移行機能」が追加

iOS版 Google Driveアプリに、Androidへデータ移行移行する機 ...