【AI】 Googleの人工知能「黒人」と「ゴリラ」を2年かけても判別できず・・・。

【AI】 Googleの人工知能「黒人」と「ゴリラ」を2年かけても判別できず・・・。

出典元：https://www.technologyreview.jp/nl/google-photos-still-has-a-problem-with-gorillas/

波紋を呼んだ「ゴリラ」誤認識、機械学習ではいまだ解決せず
2015年、グーグルは大きな非難を受けた。グーグル・フォトの画像認識システムが黒人女性をゴリラと認識してしまったからだ。しかし、2年経った今でも、問題は適切に修正されていない。その代わり、グーグルは多くの霊長類に関連する画像タグを検閲して削除している。
ワイアード（Wired）は多くの動物の写真を使ってグーグル・フォトを再度テストした。確かに、パンダからプードルといった動物については簡単に認識できることは分かった。しかし、ゴリラやチンパンジー、それにヒト科に分類されるチンパンジー属の画像については、ラベル付けされていなかった。ワイアードがグーグルに確認したところ、それらの画像のタグは検閲して削除されていることがわかった。
その反面、たとえば、グーグルのクラウド・ビジョン（Cloud Vision）などの他のコンピューター・ビジョン・システムは、ゴリラの写真に正しくタグ付けしてユーザーに答えを提供できる。要するにグーグル・フォトでのタグの削除は、ばつが悪いPRなのだ。
検閲よりも大きな問題は、機械学習用のデータ・セットに潜む偏見である。機械が学ぶ必要のない、人間の一面を反映しているのではないだろうか。しかし、偏見を減らし無くしていくのは、単にラベルのブラックリストを作るより、もっと大変な仕事なのだ。

クリハラチアキ

人類がゴリラから進化してきた証拠なんじゃない？？

管理人

ＡＩでも識別できないって、このＡＩが馬鹿なのか、
そもそも人間じゃ識別できないところでＡＩが判断してるのか・・・

クリハラチアキ

いずれにせよ、人間をゴリラだと判別している状況を放置することは
よくないのでgoogleもタグを削除していってるってカンジか。

管理人

人間には識別できないものを識別してるとすれば、怖いですね。

クリハラチアキ

でも本来、ＡＩってのはそういう使い方をするもんだよ。
人には言えない本音を見抜いたり（表情などから）
そういうので警察の捜査とかにも使えるようになってきそうだね！

このニュースに対するみんなの反応

みんな

瞬時に判別できる人間すげえ

みんな

浜田とゴリラの見分けはつくのか?

みんな

馬鹿だな、人類もゴリラも『霊長類』か『サル』のタグにすれば解決できるのに

みんな

このAIは黒人とゴリラのどこをチェックして判断してるんだろう

みんな

眼窩と顎の骨格で分かるだろ
どんな設定なんだよ

みんな

黒人と区別つかないってゴリラに失礼だろ
人間の方が色々な面で劣っているいのに

みんな

実際ジャングルの中で全裸全身毛むくじゃらの黒人にであったら
大多数がゴリラとおもうだろう。

みんな

わざとやってるにきまってるだろ
黒人がAI開発すればすぐにできるようになる

みんな

やっぱゴリラの進化形でしょ人間って

みんな

みんな

>>
強そう･･･

みんな

この程度のAIなら医療職を全てAIで置き換えるのは無理があるな。