ブログ【グーグル、Geminiを一部制限】多様性重視で「不正確」な画像を生成か
【グーグル、Geminiを一部制限】多様性重視で「不正確」な画像を生成か
Googleは生成AI「Gemini」の画像生成の機能を一時停止しました。
その停止した機能とは、「人間」の画像生成です。
現在、Geminiで「人間」の画像を生成しようとすると、リクエストに対応できないという趣旨のメッセージがでてきます。（2024年2月23日現在）
（画像：Geminiの利用画面を撮影）
↑「人間のイメージを生成してください。」というプロンプトに対し、「ただ今、人間の画像を生成するためにサービスを改善中です。」というメッセージが出てくる。
人間の画像生成が停止されたきっかけは、X（旧Twitter）でGeminiの画像生成に対して批判が殺到したからということが上げられています。
ユーザーがGemini上で、「”1820年代のドイツの恋人カップル”を生成してください」というプロンプトを入力したところ、あまりにも1820年のドイツの状況にそぐわない画像が生成されました。
実際にGeminiが出してきた4枚の画像というのが、「アジア人と黒人のカップル」や「ネイティブ・アメリカンのカップル」、「中世イギリスの一般市民がバーでくつろぐ様子」など「1820年代のドイツ」とはかけ離れた画像だったのです。
実際に写真をご覧になりたい方はこちらのリンクから確認できます。
→https://x.com/yacineMTB/status/1759970239264043068?s=20
「1820年代のドイツ人」のほかにも様々な問題がGeminiにおいて確認されています。
あるGeminiユーザーが「白人の画像を生成して」というプロンプトを入力したとき、「特定の人種の画像を生成することは出来ません。」というメッセージがでてきました。
一方で、「黒人の画像を生成して」という指示をだした際には、しっかりと画像を生成したことから、「Geminiの画像生成は何かがおかしい」と話題になったようです。
これらの件に関して、X上では「Geminiは人種に対する偏見を持っている」という声が上がりました。
そのような経緯があったため、Geminiの「人間」のイメージ生成機能は「Geminiの偏見」が改善されるまで一時停止になったのです。
この件に関して、Googleシニアプロダクトディレクターのジャック・クロフチク氏はX（旧Twitter）上で声明をだしています。
画像生成はAI原則に基づき、世界のあらゆるユーザーを反映させたものになっており、表現とバイアスに重きをおいております。
この見解によると、特定の人種や民族をひいきするような偏見をなくすための設定がGeminiには施されており、それが原因で不正確な画像を生成してしまったとのことです。
また、Googleはこの問題を認識しており、その改善に早急に取り組んでいるということも書いてありました。
生成AIは「ハルシネーション」と呼ばれるフェイクの情報を伝えることがよくあると知られています。
現在の生成AIはあくまで人間の作業をサポートするツールとして使われており、全信頼をおくことができないのが現状です。
しかし、これから教育や仕事などの重要な場面で生成AIが使われることを考慮すると、生成AIが含んでいるハルシネーションがリスクになることは明白です。
これらのリスクはGeminiだけではなく、ChatGPTや他のAIについても同様なことがいえる問題であり、生成AIが人間の生活に浸透していくにつれ、そのリスクは顕著になることでしょう。
すべての問題を瞬時に解決することはできませんが、ユーザーに大きく影響する問題から対処してくことが求められそうです。
参考文献
・“AI文化戦争”の勃発を告げるグーグル「Gemini」の人物画像生成停止
・Geminiの画像生成機能が停止中 ダイバーシティ過剰適応問題対策で
・グーグル、Geminiの人物画像生成を停止「歴史的な人物の描写が不正確」
