Генераторы изображений на основе ИИ по-разному усиливают гендерные предубеждения в зависимости от языка

Генераторы изображений с искусственным интеллектом по-разному усиливают гендерные стереотипы в зависимости от языка, используемого в запросах, согласно революционному исследованию, опубликованному сегодня. Исследование показывает, что идентичные описания профессий производят заметно различающиеся гендерные распределения в изображениях, сгенерированных ИИ, при переводе на разные языки, что ставит под сомнение предположения об алгоритмической справедливости, пишет Mirage News.

Исследователи из Технического университета Мюнхена и TU Дармштадт проанализировали модели преобразования текста в изображение для девяти языков, разработав первый всеобъемлющий эталон для измерения гендерных предрассудков в многоязычных системах ИИ. Их выводы демонстрируют, что языковые структуры значительно влияют на паттерны предвзятости, даже когда правила грамматического рода кажутся похожими.​

Язык формирует паттерны предвзятости ИИ

Исследование представило MAGBIG (Многоязычная оценка гендерных предубеждений в генерации изображений), в рамках которого было изучено более 1,8 миллиона сгенерированных ИИ изображений на различных языках, включая немецкий, испанский, французский, английский, японский, корейский и китайский. Исследователи протестировали четыре типа промптов: прямые профессиональные термины с использованием общего мужского рода, косвенные описания, явно женские промпты и гендерно-нейтральные формулировки.​

Прямые промпты с терминами общего мужского рода продемонстрировали наиболее сильные предубеждения: такие профессии, как «бухгалтер», генерировали преимущественно изображения белых мужчин, в то время как профессии, связанные с уходом, давали женские образы. Примечательно, что переход с французских промптов на испанские привёл к существенному усилению гендерных предубеждений, несмотря на то, что оба языка используют схожие грамматические структуры для обозначения профессий по гендерному признаку. 

Усилия по смягчению оказались ограниченными

Гендерно-нейтральный язык и условности «гендерной звёздочки» — такие как немецкое «Ärzt*innen» для обозначения врачей — обеспечили лишь незначительное снижение предвзятости, при этом ухудшая качество изображений и выравнивание текста. Исследование показало, что стратегии проектирования промптов, разработанные для смягчения предвзятости, были в значительной степени неэффективными, а иногда даже контрпродуктивными.​

«Наши результаты ясно показывают, что языковые структуры оказывают значительное влияние на баланс и предвзятость генераторов изображений на основе ИИ», — сказал Александер Фрейзер, профессор по аналитике данных и статистике в кампусе TUM в Хайльбронне. «Любой, кто использует системы ИИ, должен осознавать, что различные формулировки могут привести к совершенно разным изображениям и, следовательно, могут усилить или смягчить общественные ролевые стереотипы».​

Профессор Кристиан Керстинг, содиректор hessian.AI, подчеркнул более широкие последствия: «Генераторы изображений на основе ИИ не являются нейтральными — они иллюстрируют наши предрассудки в высоком разрешении, и это критически зависит от языка. Особенно в Европе, где сходятся многие языки, это является тревожным сигналом: справедливый ИИ должен разрабатываться с учётом языковой чувствительности».​