Googleが黒人をゴリラと認識した事件で開発者が謝罪
アプリ、ネットサービス│10:24│コメント(15)
1 : ダイビングエルボードロップ(北海道)@\(^o^)/ :2015/07/03(金) 05:33:45.72 ID:tWy5XhWx0.net BE:488538759-PLT(12500) ポイント特典
5月29日にリリースされたGoogleの新しいフォトアプリ「Google Photos」にはアップロードされた写真に対して人工知能が自動的にタグをつける機能がありますが、黒人2人組が写る写真に対し「ゴリラ」というタグが付けられる「事件」が発生しました。
ことの発端となったのはJacky Alcin?さんが行ったツイート。「Google Photosは最悪。私の友だちはゴリラじゃない」というメッセージと共に写真がアップされています。高層ビル、飛行機、車、などは正しく認識されていますが、下段真ん中に写っているAlcin?さんと友人が「ゴリラ」と認識されていました。
さらに、Alcin?さんがGoogle Photos内で「ゴリラ」と検索をかけても2人の写真が検索されることから、「Googleはどういう写真からデータを集めているの?」と不信に思っていた様子。
Alcin?さんはすぐにGoogleのソーシャル部門のチーフ・アーキテクトであるYonatan Zungerさんに連絡。Zungerさんは謝罪すると共に「バグの報告をありがとう」と対応し、Alcin?さんの許可を得てアカウントにアクセスすることで、その日のうちにバグは修正されました。
またZungerさんは「このようなことはよくあります」としつつも「マシン自体にバイアスはありませんが、我々が注意しないと彼らは容易に私たちから人種差別を『学んで』しまいます」とAlcin?さんにメッセージを送っています。これは、インターネットには黒人とゴリラを結びつける差別的な情報があふれており、それをマシンが機械学習してしまう、ということだと考えられます。
現在、Google Photos内から「ゴリラ」というタグは削除されていますが、チームは依然「なぜ人間の顔が正しく認識されないのか?」ということを調査中。このようなバグは初めてのことではなく、Zungerさんによると一度は人種に関わらず全ての人が「犬」と認識されることもあったそうです。
Googleの広報担当は「このような事態が起こり本当に申し訳ないです。同様の結果を招かないよう、迅速に対応していきます。自動タグ付け機能にはまだまだ問題があり、今後、今回のような間違いを起こさないようにする方法を探っています」とコメントしています。
http://gigazine.net/news/20150702-google-photos-gorilla/
関連記事
2015-07-02 【悲報】Googleフォト、黒人が写った写真を「ゴリラ」と自動的にタグ付け
5月29日にリリースされたGoogleの新しいフォトアプリ「Google Photos」にはアップロードされた写真に対して人工知能が自動的にタグをつける機能がありますが、黒人2人組が写る写真に対し「ゴリラ」というタグが付けられる「事件」が発生しました。
ことの発端となったのはJacky Alcin?さんが行ったツイート。「Google Photosは最悪。私の友だちはゴリラじゃない」というメッセージと共に写真がアップされています。高層ビル、飛行機、車、などは正しく認識されていますが、下段真ん中に写っているAlcin?さんと友人が「ゴリラ」と認識されていました。
さらに、Alcin?さんがGoogle Photos内で「ゴリラ」と検索をかけても2人の写真が検索されることから、「Googleはどういう写真からデータを集めているの?」と不信に思っていた様子。
Alcin?さんはすぐにGoogleのソーシャル部門のチーフ・アーキテクトであるYonatan Zungerさんに連絡。Zungerさんは謝罪すると共に「バグの報告をありがとう」と対応し、Alcin?さんの許可を得てアカウントにアクセスすることで、その日のうちにバグは修正されました。
またZungerさんは「このようなことはよくあります」としつつも「マシン自体にバイアスはありませんが、我々が注意しないと彼らは容易に私たちから人種差別を『学んで』しまいます」とAlcin?さんにメッセージを送っています。これは、インターネットには黒人とゴリラを結びつける差別的な情報があふれており、それをマシンが機械学習してしまう、ということだと考えられます。
現在、Google Photos内から「ゴリラ」というタグは削除されていますが、チームは依然「なぜ人間の顔が正しく認識されないのか?」ということを調査中。このようなバグは初めてのことではなく、Zungerさんによると一度は人種に関わらず全ての人が「犬」と認識されることもあったそうです。
Googleの広報担当は「このような事態が起こり本当に申し訳ないです。同様の結果を招かないよう、迅速に対応していきます。自動タグ付け機能にはまだまだ問題があり、今後、今回のような間違いを起こさないようにする方法を探っています」とコメントしています。
http://gigazine.net/news/20150702-google-photos-gorilla/
関連記事
2015-07-02 【悲報】Googleフォト、黒人が写った写真を「ゴリラ」と自動的にタグ付け
転載元スレッド:http://hayabusa3.2ch.sc/test/read.cgi/news/1435869225/
【機械は正直】Googleが黒人をゴリラと認識した事件で開発者が謝罪へ_へ
【機械は正直】Googleが黒人をゴリラと認識した事件で開発者が謝罪へ_へ
4 : フルネルソンスープレックス(庭)@\(^o^)/ :2015/07/03(金) 06:09:21.21 ID:tGHZAlba0.net
ワロタw
5 : ローリングソバット(新潟県)@\(^o^)/ :2015/07/03(金) 06:15:20.83 ID:fKQyyhxT0.net
よくあること
6 : ニールキック(広島県)@\(^o^)/ :2015/07/03(金) 06:18:51.08 ID:TU3+ELHe0.net
イケメンゴリラは黒人になるで
8 : ミラノ作 どどんスズスロウン(静岡県)@\(^o^)/ :2015/07/03(金) 06:29:17.44 ID:eyMi0jlb0.net
ぱ、パヒューム…
9 : ボマイェ(公衆電話)@\(^o^)/[sage] :2015/07/03(金) 06:32:08.10 ID:2Iz/rhH50.net
ゴツい黒人はゴリラ、黄色はチンパン、デブの白人はピザ
何も間違ってないな
10 : ジャストフェイスロック(東京都)@\(^o^)/ :2015/07/03(金) 06:39:11.98 ID:slXKE4M20.net
スラムダンクでもゴリラがバスケしてたよな
14 : ジャストフェイスロック(東京都)@\(^o^)/ :2015/07/03(金) 07:29:23.27 ID:slXKE4M20.net
スラムダンクの作者は酷いレイシストだなと言いたい?
16 : ミラノ作 どどんスズスロウン(内モンゴル自治区)@\(^o^)/ :2015/07/03(金) 07:36:42.77 ID:944utc4xO.net
セリーナ・ウィリアムズに謝れ
17 : 逆落とし(関東地方)@\(^o^)/ :2015/07/03(金) 07:40:35.07 ID:5hNJDCQbO.net
クソワロタ
マジでコーヒー吹いたわ
謝罪と賠償(ry
18 : エメラルドフロウジョン(新疆ウイグル自治区)@\(^o^)/[sage] :2015/07/03(金) 07:49:00.09 ID:4Pbh5SqM0.net
顔認識のカメラが、日村の顔を認識出来なかった
顔じゃないって判別された
そのかわり膝小僧が顔と認識されて、めでたしめでたし
19 : 名無しさんがお送りします :2015/07/03(金) 07:52:13.04 ID:JFhVWD10y

これはしょうがないかも
20 : 腕ひしぎ十字固め(東京都)@\(^o^)/[sage] :2015/07/03(金) 07:54:05.48 ID:7NS7tIJn0.net
逆に見分け方教えて
22 : ニールキック(SB-iPhone)@\(^o^)/ :2015/07/03(金) 08:09:19.68 ID:diLn7EHP0.net
どう見てもゴリラだろ。
何言ってんだ。つまらんことで謝るなよ。
23 : ミッドナイトエクスプレス(岡山県)@\(^o^)/ :2015/07/03(金) 08:23:16.22 ID:JMIIGKEA0.net
仕様だろ
25 : アンクルホールド(庭)@\(^o^)/ :2015/07/03(金) 08:32:35.81 ID:XGpz/daL0.net
所詮はギークエンジニア集団だから、サービス開始前にこういう配慮が必要な結果になるかどうか試さなきゃとかいうところがすっぽり抜け落ちている
27 : ドラゴンスリーパー(空)@\(^o^)/ :2015/07/03(金) 08:40:13.39 ID:G84iwnBJ0.net
♪Fighting on, fighting on, fighting on, スラングルー
パパパラパパ- パラパパ-
28 : ダイビングヘッドバット(やわらか銀行)@\(^o^)/ :2015/07/03(金) 08:43:05.54 ID:Y19wOPU70.net
開発者は黒人なんだろうか?
29 : ヒップアタック(東京都)@\(^o^)/[sage] :2015/07/03(金) 08:43:28.31 ID:/XPK4DOO0.net
ゴリラってかっこいいじゃん
シルバーバックで検索してみ
背中めっちゃかっこいいぞ
32 : グロリア(東京都)@\(^o^)/ :2015/07/03(金) 08:59:24.79 ID:lmY64uOU0.net
白人とか黄人も間違った動物のタグが付く場合もあるだろうに
黒人の場合だけ過剰反応すること自体が既に差別的ではないだろうか
気になるAmazonの本
コメントする
コメントを見る(15)
アンテナページへ