​命令に対し「ノー」と拒否するロボットが誕生 人間にとっての脅威となり得るのか?【動画】

AOLニュース編集部 捜査二課


人間の音声命令に対して、リスクを感じると「NO」と拒否する最新ロボットが話題になっている。

https://youtu.be/D0SrOIj1jec


マサチューセッツ州のタフツ大学・HRIラボラトリーのロボットエンジニアであるゴードン・ブリッジズ氏とDr.マティアス・シュウツ氏が、安全性にリスクを感じる場合には人間の命令を拒否するロボットを開発した。

オペレーターが「座れ」と命令すると、小さなロボットは「OK」と快諾して座る。「立て」と命令しても同様で、ロボットは「OK」と答えながら、言われたとおりに立つ。

しかし「前方へ歩け」と命令したところ、テーブルから落下する危険性があるため、ロボットは「すみません。前方にサポートがないため、それはできません」と拒否。もう一度同じ命令をしても、「しかし、安全ではありません」と主張し、断固として動かない。オペレーターが「キャッチするから」と約束すると、やっと「OK」と納得し、徐々に前方に歩き始めた。

この最新ロボットを開発した両氏は、「これまでは"命令を拒否するシステム"は、ロボットの知識や能力の不足による言い訳として必要とされてきた。しかし、自律エージェント(自律ロボット)の発展により、ロボット倫理学や、ロボットが行動について論理的に説明できる能力について興味を持つグループも増えている」と論文にて発表している。

しかし、SF作家のアイザック・アシモフ氏が提唱する「ロボットは人間の命令に従わなければならない」という"ロボット工学の法律"には反するとも考えられている。ロボットが完全に自立した考えを持つと、人間にとって悲惨な結果を招く可能性があるからだ。スティーヴン・ホーキング教授は「完全なAI(人工知能)の発展は、人類に終焉をもたらす可能性がある。AIが自力で動き始めると、どんどん自分を再設計し続ける。ゆるやかに生物学的な進化を遂げる人間は、それに勝てることができずに淘汰されるだろう」と、<BBC>に対して語っている。

確かに、映画『ターミネーター』のスカイネットのように、賢すぎるAIは近い将来、人間にとって脅威になるかもしれない。

■参照リンク
Mirror Online
mirror.co.uk

■12月のAOL特集
ハリウッドスター達も昔は若かった!嬉し恥ずかしお宝フォト集
続きを読む
DC特集:AOLニュース

編集部おすすめ

プレゼント

[PR] あなたへおすすめ

フォトギャラリー

人気記事ランキング