【AI】 Googleの人工知能「黒人」と「ゴリラ」を2年かけても判別できず・・・。
出典元:https://www.technologyreview.jp/nl/google-photos-still-has-a-problem-with-gorillas/
波紋を呼んだ「ゴリラ」誤認識、機械学習ではいまだ解決せず
2015年、グーグルは大きな非難を受けた。グーグル・フォトの画像認識システムが黒人女性をゴリラと認識してしまったからだ。しかし、2年経った今でも、問題は適切に修正されていない。その代わり、グーグルは多くの霊長類に関連する画像タグを検閲して削除している。
ワイアード(Wired)は多くの動物の写真を使ってグーグル・フォトを再度テストした。確かに、パンダからプードルといった動物については簡単に認識できることは分かった。しかし、ゴリラやチンパンジー、それにヒト科に分類されるチンパンジー属の画像については、ラベル付けされていなかった。ワイアードがグーグルに確認したところ、それらの画像のタグは検閲して削除されていることがわかった。
その反面、たとえば、グーグルのクラウド・ビジョン(Cloud Vision)などの他のコンピューター・ビジョン・システムは、ゴリラの写真に正しくタグ付けしてユーザーに答えを提供できる。要するにグーグル・フォトでのタグの削除は、ばつが悪いPRなのだ。
検閲よりも大きな問題は、機械学習用のデータ・セットに潜む偏見である。機械が学ぶ必要のない、人間の一面を反映しているのではないだろうか。しかし、偏見を減らし無くしていくのは、単にラベルのブラックリストを作るより、もっと大変な仕事なのだ。


そもそも人間じゃ識別できないところでAIが判断してるのか・・・

よくないのでgoogleもタグを削除していってるってカンジか。


人には言えない本音を見抜いたり(表情などから)
そういうので警察の捜査とかにも使えるようになってきそうだね!
このニュースに対するみんなの反応





どんな設定なんだよ

人間の方が色々な面で劣っているいのに

大多数がゴリラとおもうだろう。

黒人がAI開発すればすぐにできるようになる



強そう・・・
