ぜひ読んでもらいたい。差別と生成AI。
「別にいいじゃん。むしろいいことじゃん。」
と自分は思ったんだけど、そうではないらしい。
記事によると、生成AIってのはトレーニングデータのバイアスを受け継ぎ、その出力が社会の固定概念を強化してしまうものなんですって。OpenAIやGoogleはこういった事象と戦うためにポリコレフィルタリングを作っているらしいのだが、それが悪い方向に働いてしまったんだと。
差別対策が新たな差別(ホワイトウォッシングや文化盗用)を呼んでしまったと。
イーロンマスクが作っている反社会問題AI「Grok」が一番まともな結果を返してる可能性もあったり。人間が作り出したトレーニングデータを使う限り一生解決出来ない問題なのだろう。
