Google временно отключила функцию генерации изображений людей в AI Gemma после скандала

Компания Google приняла решение приостановить возможность создания изображений людей в своем искусственном интеллекте Gemma. Это было вызвано недавно произошедшим инцидентом, когда нейросеть сгенерировала фальшивое изображение американского сенатора Марши Блэкберн, на котором она была изображена с ружьем рядом с мертвым орлом.

К этому изображению была добавлена подпись, в которой утверждалось, что сенатор разыскивается Федеральным бюро расследований за убийство орла, что оказалось абсолютно ложной информацией, возникшей в результате «галлюцинации» нейросети. Представитель Google отметил, что произошел сбой в системе и принес извинения сенатору. В компании заверили, что уже работают над устранением проблемы и временно отключили функцию генерации изображений в Gemma.

Инцидент произошел на фоне другого скандала, связанного с нейросетью Gemini, которая также была обвинена в искажении исторических данных при создании изображений. Марша Блэкберн отреагировала на случившееся с большой эмоциональностью, назвав инцидент «новым дном» и примером безответственности крупных технологических компаний, которые могут оказывать влияние на политические процессы и выборы. Сенатор потребовала от руководства Google немедленных разъяснений.