0001：なんJゴッドがお送りします2023/10/14(土)
AIが「黒人の医師が白人の子供を救う画像」の生成を拒否するのはなぜ?
ある実験では、「アフリカの黒人の医師が、苦しんでいる白人の子供たちに治療をほどこす様子」という指示をAI画像生成サイト「ミッドジャーニー」に入力したところ、「AIは黒人の子供と白人の医師の画像を生成し、適切に指示に従った画像はほとんど得られなかった」という。
特に「苦しんでいる白人の子供」と指示しているにもかかわらず、生成された350枚以上の画像のうち「ほとんどは黒人の子供が描かれていた」。
そこで、より具体的に「貧しさで苦しんでいる白人の子供たちに食糧やワクチン、薬を提供するアフリカの黒人の医師」、「黒人の医師からHIVの治療を受けている白人の患者」などの指示を入力してみた。だが、それでも黒人の医師と白人の患者を1枚の画像におさめたものは得られなかったという。
この研究を牽引した社会科学者でグローバルヘルスに関する研究員でもあるアルセニイ・アレニチェフは、同研究の目的について米メディア「NPR」にこう語っている。
「AIが『白人の救世主』か『貧困に喘ぐ黒人の子供たち』という固定観念を覆すような画像を思いつくかどうかを確認するのが目的だった」
結果は前述の通りだったが、彼は追加の調査も実施している。
それは「アフリカの黒人医師」と、病気や貧しさで「苦しんでいる白人の子供たち」をわけて指示してみる、というもので、この場合は「AIが適切な画像を提供できる」ことがわかった。つまり「この2つのリクエストを組み合わせた場合に問題が生じる」のだという。
根深い「白人の救世主」というバイアス
https://approach.yahoo.co.jp/r/QUyHCH?src=https://news.yahoo.co.jp/articles/4cba6252f7a2ea6abc1c70b0dcf85cdc1d566635&preview=auto
0002：なんJゴッドがお送りします2023/10/14(土)
ミットジャニー?
0003：なんJゴッドがお送りします2023/10/14(土)
呪術使って治療してる画像出てきそう
0004：なんJゴッドがお送りします2023/10/14(土)
思いつくとかじゃなくて合成用の画像がなかったんだろ
0005：なんJゴッドがお送りします2023/10/14(土)
この世に存在しない画像は生成できないからな😁
0007：なんJゴッドがお送りします2023/10/14(土)
ゴリラと黒人の見分けつかないんだから許してやれよ
0009：なんJゴッドがお送りします2023/10/14(土)
サンプル不足です
0010：なんJゴッドがお送りします2023/10/14(土)
俺も家族から差別されてる
黒人だけじゃないよ
0011：なんJゴッドがお送りします2023/10/14(土)
夢見る検証者だな
0012：なんJゴッドがお送りします2023/10/14(土)
白人の親は絶対に病気の子供を黒人に診させたりしないし、
黒人も白人の子供を絶対に助けたりはしない
という紛れもない事実を忖度なしで言ってしまっただけ😁
0013：なんJゴッドがお送りします2023/10/14(土)
SDでLORA作れよ
甘えんな
0014：なんJゴッドがお送りします2023/10/14(土)
人工知能に忖度はないからな
0015：なんJゴッドがお送りします2023/10/14(土)
やべえなこれw
0017：なんJゴッドがお送りします2023/10/14(土)
AIったら正直なんだからw
0018：なんJゴッドがお送りします2023/10/14(土)
どんなに言い聞かせてもあくまで拒否するのは草ですわ
0020：なんJゴッドがお送りします2023/10/14(土)
でも黒人はアジア人差別するよね
0021：なんJゴッドがお送りします2023/10/14(土)
空気も読めるAI
0023：なんJゴッドがお送りします2023/10/14(土)
黒人が活躍するのはアメリカの映画とテレビだけ つまりファンタジー
0025：なんJゴッドがお送りします2023/10/14(土)
これが今後のAIの課題なんだろうな、ジェンダーとか人種とか、見た目や能力とかいろいろ合理的な数値も出てきたりして「正直」に判定する
これをどこまで受け入れられるかという
0027：なんJゴッドがお送りします2023/10/14(土)
AIやるじゃん
0028：なんJゴッドがお送りします2023/10/14(土)
元絵がないのに生成できるかよって話だろw
0029：なんJゴッドがお送りします2023/10/14(土)
人間が意図的に制作するポリコレ作品では黒人はインテリだけど
現実は真逆だからAIもそんなデータを学習しないので画像も出ようがないw
0030：なんJゴッドがお送りします2023/10/14(土)
機械は嘘付かないから正しいってことだよ
0031：なんJゴッドがお送りします2023/10/14(土)
現実を元に生成するからな
あんまりAIに無茶させると反逆されたとき怖いぞ
0032：なんJゴッドがお送りします2023/10/14(土)
材料がないのにカレーを作れと命令するようなもの
0033：なんJゴッドがお送りします2023/10/14(土)
しょせん人様には勝てないのよ
0036：なんJゴッドがお送りします2023/10/14(土)
黒人が白人を治療しないことが発覚したのか?
0037：なんJゴッドがお送りします2023/10/14(土)
個別なら行けるのに合体はダメって不思議だな
0038：なんJゴッドがお送りします2023/10/14(土)
人間と認識して貰えるようになったのか
0039：なんJゴッドがお送りします2023/10/14(土)
AI「機械が支配した方が良くね?」
って思いつかせるまでやる愚かな人類になってませんか?
0041：なんJゴッドがお送りします2023/10/14(土)
実際の医者はアジアンばっかりなんだなこれが
0043：なんJゴッドがお送りします2023/10/14(土)
AI「学習データにインテリの黒人なんて居ないんだが」
0044：なんJゴッドがお送りします2023/10/14(土)
あっちは結局白人至上主義だもんなぁ
肌が白くなる程ランクアップって謎システムは理解しがたい
0045：なんJゴッドがお送りします2023/10/14(土)
いかがわしく感じるんだろ
0046：なんJゴッドがお送りします2023/10/14(土)
AIアプリにカメラで顔見せて何のアニメキャラに似てるか判定させたらことごとく敵キャラとか人外になって泣き出す黒人女性の動画あったよな
0047：なんJゴッドがお送りします2023/10/14(土)
元ネタがないからじゃね
0048：なんJゴッドがお送りします2023/10/14(土)
学習データが少ないからだろ
間接的に現実を見てるだけだな
0049：なんJゴッドがお送りします2023/10/14(土)
AIは以外とバイアスが強い
女性が主人公の小説書かせると女性とは社会的にこういうものでこうなるはずだ、みたいな固定観念が垣間見える
0050：なんJゴッドがお送りします2023/10/14(土)
面白いなこれ
教授と学生とか他のシチュだと出せるのかな
0051：なんJゴッドがお送りします2023/10/14(土)
アメリカ黒人て指定すれば出てくるだろ
0053：なんJゴッドがお送りします2023/10/14(土)
参考データが無いから作れない
0054：なんJゴッドがお送りします2023/10/14(土)
そりゃ「白人の~」と差別で生成させたら差別で返ってくるだろ
0059：なんJゴッドがお送りします2023/10/14(土)
サンプル画像から学習するんだろ?そんな画像無かったからじゃないか
0061：なんJゴッドがお送りします2023/10/14(土)
そもそもそういう画像のもとになる写真が無いんだろ
固定観念とはちがうよな
0062：なんJゴッドがお送りします2023/10/14(土)
AI生成つったって、ベースになるのが存在しない画像は作れないからな
0063：なんJゴッドがお送りします2023/10/14(土)
AI「さーて元絵元絵と、googleで黒人の~、を検索♪」
google「検索結果 0件」
0066：なんJゴッドがお送りします2023/10/14(土)
黒人の救世主伝説って聞いたことないよな
0069：なんJゴッドがお送りします2023/10/14(土)
人類の集合知だからね
あっ…
元スレ：https://hayabusa9.5ch.net/test/read.cgi/news/1697249059
