Google отключил генерацию изображений людей в Gemini

Компания принесла извинения в своем блоге за то, что намеренно настроила модель таким образом, чтобы та всегда создавала расовое разнообразие на изображениях даже там где это не уместно, к примеру: чернокожие нацисты или викинги.

К примеру вот по мнению Gemini Папа римский:

Основные претензии к Gemini возникли после того, как пользователи заметили, что Gemini создает изображения, искажающие исторические события. Например, изображая нацистов и отцов-основателей США с разнообразным цветом кожи и полом.

Наша настройка, гарантировавшая, чтобы Gemini показывала разнообразие людей, не учла случаи, для которых явно не должно быть разнообразия.

И во-вторых, модель стала более осторожной, чем мы планировали, и полностью отказывалась отвечать на некоторые безобидные запросы интерпретируя их как «чувствительные».

Прабхакар Рагхаван, старший вице-президент Google.

Далее примеры галлюцинаций ИИ:

Нацисты в 1943 году

Джордж Вашингтон

Отцы Основатели США в 1789 году

Викинг

Средневековый король Англии

Ванильный пудинг

Хоккеист