米軍が善悪を判断するロボットの開発を支援していることが判明！
1 ： TwilightSparkle ★＠＼(^o^)／ ：2014/05/20(火) 19:02:15.23 ID:???.net
「善悪の判断」を行い、それに伴った行動がとれる自律型ロボットの研究開発に、米海軍が資金援助を行っている。
タフツ大学とブラウン大学、ならびにレンセラー工科大学からなる学際的研究チームは、「善悪の判断」を行い、それに伴った行動をとることができる自律型ロボットの研究に取り組んでいる。この研究は、米海軍海事技術本部（ONR：Office ofNaval Research）から支援を受けているものだ。
プロジェクトの責任者を務める、タフツ大学ヒューマン・ロボット・インタラクション研究所のマティアス・シューツ所長は、人間独自の特性と考えられている「善悪の判断」は、ほとんどの人々が想像しているほど複雑ではないかもしれないと考えている。
「倫理的な能力とは、大雑把にいえば、法や、人々が賛同する可能性が高い社会的な慣習について、学習し、それに従って思考や行動を行い、それについて話せる能力だと考えられる」とシューツ氏は述べる。「問題は、機械や人工システムがこうした能力をエミュレートし、実行することができるかどうかだ」
例えば、おそらくは近い将来に多数登場するであろう医療ロボットに対して、重傷を負った兵士を最寄りの野戦病院に移送するよう命令したとする。この医療ロボットは移送中に、脚を骨折した別の海兵隊員に出会った。医療ロボットは、立ち止まって手当を施すべきなのだろうか？ それとも与えられた任務を遂行し続けるべきなのだろうか？
あるいは、命を救うためには、負傷者に非常な痛みを与える応急処置が必要だとする。ロボットは、命を救うために人間に苦痛を与えることを善だと考えるべきなのだろうか？
こうした仮定の質問に答えるためには、研究チームは、共感の本質に関するさらに多くの問いかけを行って、人間の倫理的能力を構成している本質的な要素を特定する必要がある。人の感情を生み出す根源がわかれば、人間のような倫理的判断が行える人工知能をモデル化する枠組みに取り組めるだろう。
「われわれは、既存の自律型ロボットの実証されたアーキテクチャーに、独自のアルゴリズムと計算メカニズムを統合するつもりだ。拡張されたアーキテクチャーは、ロボットが倫理的判断に基づいて、計画された行動をダイナミックに上書きできるような、柔軟なものになる」とシューツ氏は語る。
一方、シューツ氏と協力して研究を行っている、レンセラー工科大学認知科学部のセルマー・ブリングジョード部長は、人間の倫理は何を意味するのかについて、確立した定義はない（日本語版記事）と指摘し、これは研究チームが取り組むべき難題だと語る。
※記事の一部を引用しました。全文及び参考画像等は下記リンク先で御覧ください。
wired_jp 2014.5.19 MON http://wired.jp/2014/05/19/robo-ethics/
◆◆◆スレッド作成依頼スレ★861◆◆
http://peace.2ch.net/test/read.cgi/newsplus/1400077097/762
「善悪の判断」を行い、それに伴った行動がとれる自律型ロボットの研究開発に、米海軍が資金援助を行っている。
タフツ大学とブラウン大学、ならびにレンセラー工科大学からなる学際的研究チームは、「善悪の判断」を行い、それに伴った行動をとることができる自律型ロボットの研究に取り組んでいる。この研究は、米海軍海事技術本部（ONR：Office ofNaval Research）から支援を受けているものだ。
プロジェクトの責任者を務める、タフツ大学ヒューマン・ロボット・インタラクション研究所のマティアス・シューツ所長は、人間独自の特性と考えられている「善悪の判断」は、ほとんどの人々が想像しているほど複雑ではないかもしれないと考えている。
「倫理的な能力とは、大雑把にいえば、法や、人々が賛同する可能性が高い社会的な慣習について、学習し、それに従って思考や行動を行い、それについて話せる能力だと考えられる」とシューツ氏は述べる。「問題は、機械や人工システムがこうした能力をエミュレートし、実行することができるかどうかだ」
例えば、おそらくは近い将来に多数登場するであろう医療ロボットに対して、重傷を負った兵士を最寄りの野戦病院に移送するよう命令したとする。この医療ロボットは移送中に、脚を骨折した別の海兵隊員に出会った。医療ロボットは、立ち止まって手当を施すべきなのだろうか？ それとも与えられた任務を遂行し続けるべきなのだろうか？
あるいは、命を救うためには、負傷者に非常な痛みを与える応急処置が必要だとする。ロボットは、命を救うために人間に苦痛を与えることを善だと考えるべきなのだろうか？
こうした仮定の質問に答えるためには、研究チームは、共感の本質に関するさらに多くの問いかけを行って、人間の倫理的能力を構成している本質的な要素を特定する必要がある。人の感情を生み出す根源がわかれば、人間のような倫理的判断が行える人工知能をモデル化する枠組みに取り組めるだろう。
「われわれは、既存の自律型ロボットの実証されたアーキテクチャーに、独自のアルゴリズムと計算メカニズムを統合するつもりだ。拡張されたアーキテクチャーは、ロボットが倫理的判断に基づいて、計画された行動をダイナミックに上書きできるような、柔軟なものになる」とシューツ氏は語る。
一方、シューツ氏と協力して研究を行っている、レンセラー工科大学認知科学部のセルマー・ブリングジョード部長は、人間の倫理は何を意味するのかについて、確立した定義はない（日本語版記事）と指摘し、これは研究チームが取り組むべき難題だと語る。
※記事の一部を引用しました。全文及び参考画像等は下記リンク先で御覧ください。
wired_jp 2014.5.19 MON http://wired.jp/2014/05/19/robo-ethics/
◆◆◆スレッド作成依頼スレ★861◆◆
http://peace.2ch.net/test/read.cgi/newsplus/1400077097/762
転載元スレッド：http://anago.2ch.sc/test/read.cgi/scienceplus/1400580135/
【ロボット工学】 善悪を判断するロボット、米海軍が開発支援 [WIRED]
【ロボット工学】 善悪を判断するロボット、米海軍が開発支援 [WIRED]
2 ： 名無しのひみつ＠＼(^o^)／ ：2014/05/20(火) 19:03:49.85 ID:nDGZAV4p.net
ターミネーターとマトリックスの世界が見えてくるな
3 ： 名無しのひみつ＠＼(^o^)／ ：2014/05/20(火) 19:04:29.47 ID:mId7i9OE.net
あたらしいパラディンか？
価値観はキリスト教原理主義
イエス様の敵は悪魔ってか？？
ろくでもねぇ
5 ： 名無しのひみつ＠＼(^o^)／ ：2014/05/20(火) 19:05:29.64 ID:ACVxEfIV.net
アメリカって映画のターミネーターみたく人類破滅の引き金引きそうだな
18 ： 名無しのひみつ＠＼(^o^)／[sage] ：2014/05/20(火) 19:29:07.60 ID:sNZl1fuZ.net
>>5
ヴァレンタイン大統領を実装すればok
我が心と行動に一点の曇りなし・・・・・・・・・・！
全てが『正義』だ
アメリカって映画のターミネーターみたく人類破滅の引き金引きそうだな
18 ： 名無しのひみつ＠＼(^o^)／[sage] ：2014/05/20(火) 19:29:07.60 ID:sNZl1fuZ.net
>>5
ヴァレンタイン大統領を実装すればok
我が心と行動に一点の曇りなし・・・・・・・・・・！
全てが『正義』だ
6 ： 名無しのひみつ＠＼(^o^)／[sage] ：2014/05/20(火) 19:06:42.69 ID:VvAaq9ZC.net
人を悪と判断し、ロボットが反旗を翻す…ってところまで妄想した
7 ： 名無しのひみつ＠＼(^o^)／[sage] ：2014/05/20(火) 19:07:12.19 ID:smUTVbg/.net
人工知能が倫理的(と外から認定できる)判断を行えるかどうかはそんなに難しくなさそうだが
その判断の根拠となる思想は現状プログラミングできないのだからあくまでも近似でしかないと明示すべきだろう
8 ： 名無しのひみつ＠＼(^o^)／[sage] ：2014/05/20(火) 19:08:35.19 ID:E5x81qbB.net
「米国はダブスタ」って反米ロボになったらどうすんのｗ
9 ： 名無しのひみつ＠＼(^o^)／[sage] ：2014/05/20(火) 19:09:59.27 ID:93RtjBd7.net
真っ先に米に銃口を向けると思われｗ
11 ： 名無しのひみつ＠＼(^o^)／ ：2014/05/20(火) 19:14:04.35 ID:phHcCQwP.net
善悪の定義はなんだ
13 ： 名無しのひみつ＠＼(^o^)／[sage] ：2014/05/20(火) 19:15:49.73 ID:VvAaq9ZC.net
>>11
書いてあるじゃん
「法や、人々が賛同する可能性が高い社会的な慣習」
14 ： 名無しのひみつ＠＼(^o^)／ ：2014/05/20(火) 19:20:07.65 ID:UpflyvEC.net
>>13
注1：ただし、アメリカに有利な場合は除く
善悪の定義はなんだ
13 ： 名無しのひみつ＠＼(^o^)／[sage] ：2014/05/20(火) 19:15:49.73 ID:VvAaq9ZC.net
>>11
書いてあるじゃん
「法や、人々が賛同する可能性が高い社会的な慣習」
14 ： 名無しのひみつ＠＼(^o^)／ ：2014/05/20(火) 19:20:07.65 ID:UpflyvEC.net
>>13
注1：ただし、アメリカに有利な場合は除く
12 ： 名無しのひみつ＠＼(^o^)／ ：2014/05/20(火) 19:14:46.56 ID:CxWnBZ4P.net
アメリカ人の善悪
15 ： 名無しのひみつ＠＼(^o^)／[sage] ：2014/05/20(火) 19:20:44.76 ID:TyJVVW47.net
これでロボコップはいらねえな
みんなターミネーターで済む
17 ： 名無しのひみつ＠＼(^o^)／ ：2014/05/20(火) 19:26:22.48 ID:oBFE9z9K.net
アメリカの正義と悪の観念か、経済優先で中国を許しウイグル人とチベット人
を見捨てる正義だもんなあ。
19 ： 名無しのひみつ＠＼(^o^)／[sage] ：2014/05/20(火) 19:29:14.43 ID:eyX1WKmv.net
完成と同時に米軍壊滅。
20 ： 名無しのひみつ＠＼(^o^)／[sage] ：2014/05/20(火) 19:30:05.42 ID:2ZQwPfxh.net
「ピコピコ・・・・・ 戦争を終わらすために原爆を落とそう！」
という正義かな
21 ： 名無しのひみつ＠＼(^o^)／ ：2014/05/20(火) 19:31:19.82 ID:ZpVLobW5.net
アメリカ基準だと善悪の線引きは楽そうだね。
22 ： 名無しのひみつ＠＼(^o^)／ ：2014/05/20(火) 19:31:22.07 ID:phHcCQwP.net
スカイネットか
あれは人類が悪だな
23 ： 名無しのひみつ＠＼(^o^)／[sage] ：2014/05/20(火) 19:34:34.35 ID:LlbFf1ne.net
韓国が真っ先に導入して
ロボットに制圧される未来が見えます
24 ： 名無しのひみつ＠＼(^o^)／ ：2014/05/20(火) 19:41:04.31 ID:82P0Xd+I.net
オバマや鳩山をジャッジしてみてほしい
25 ： 名無しのひみつ＠＼(^o^)／[sage] ：2014/05/20(火) 19:42:22.10 ID:8VMXK8GT.net
26 ： 名無しのひみつ＠＼(^o^)／ ：2014/05/20(火) 19:47:41.20 ID:JqKTfWzH.net
良心回路なら、とっくの昔に日本のとある悪の秘密組織が作ってるが？
アメリカは遅いね。
27 ： 名無しのひみつ＠＼(^o^)／ ：2014/05/20(火) 19:47:46.74 ID:lHtxhJgZ.net
もうスカイネットじゃん・・・
28 ： 名無しのひみつ＠＼(^o^)／[sage] ：2014/05/20(火) 19:49:23.88 ID:FXjVO4CD.net
キットとカールだな
29 ： 名無しのひみつ＠＼(^o^)／ ：2014/05/20(火) 19:49:34.79 ID:GCYYKwpP.net
良心回路でも開発すんのか？
日本はすでにキカイダーというロボットがいるぞ
30 ： 名無しのひみつ＠＼(^o^)／[sage] ：2014/05/20(火) 19:49:39.34 ID:t3VdYT3m.net
どうせ Bible OS なんだろ？
31 ： 名無しのひみつ＠＼(^o^)／ ：2014/05/20(火) 19:54:18.71 ID:phHcCQwP.net
機械が人類に従属するとは限らんわな
利害が一致しなければスカイネットの反乱が起きる
33 ： 名無しのひみつ＠＼(^o^)／ ：2014/05/20(火) 19:58:31.72 ID:g5yyJDcD.net
キカイダーか
34 ： 名無しのひみつ＠＼(^o^)／ ：2014/05/20(火) 20:03:34.93 ID:ghBc28ni.net
善悪があるからこそいずれ善悪の苦しみを知り、自分の子供らをそこに住まわせたくないと思う
そうやって楽園は繰り返すのである。
気になるAmazonの本
第三次世界大戦の始まりやん…ロボットvs人類のさ