OpenAI усиливает Sora 2 после негативной реакции на дипфейки знаменитостей

OpenAI объявила в понедельник, что усилит меры защиты в своем видеоприложении Sora 2 после широкой критики в связи с несанкционированными дипфейками знаменитостей, достигнув соглашений с актером Брайаном Крэнстоном, SAG-AFTRA и крупными агентствами по работе с талантами после того, как пользователи создавали видео с изображениями знаменитостей без их согласия, передает New York Post.

Компания, занимающаяся искусственным интеллектом, выпустила совместное заявление с Крэнстоном, Гильдией киноактеров — Американской федерацией работников телевидения и радио, United Talent Agency, Creative Artists Agency и Ассоциацией агентств по работе с талантами, подтвердив «продуктивное сотрудничество» для защиты голосов и изображений исполнителей. Решение было принято всего через три недели после запуска Sora 2 30 сентября, когда приложение быстро стало одним из самых загружаемых в App Store от Apple.​

Брайан Крэнстон возглавляет ответ индустрии

Крэнстон, наиболее известный по роли в сериале «Во все тяжкие», обратился в SAG-AFTRA после того, как обнаружил, что его голос и внешность были воспроизведены в видео Sora 2 без его разрешения во время первоначального запуска приложения только по приглашениям. «Я был глубоко обеспокоен не только за себя, но и за всех исполнителей, чьи работы и личность могут быть использованы неправомерно таким образом», — заявил Крэнстон в понедельник.​

OpenAI выразила сожаление по поводу того, что компания назвала «непреднамеренными генерациями», и взяла на себя обязательство усилить меры защиты в отношении воспроизведения голоса и внешности, когда люди не дают на это согласия. Компания придерживается политики согласия, требующей явного разрешения перед использованием чьего-либо голоса или внешности, хотя в случае с Крэнстоном применение этой политики явно провалилось.​

Видео Мартина Лютера Кинга-младшего заблокированы

На прошлой неделе OpenAI была вынуждена приостановить генерацию видео с Мартином Лютером Кингом-младшим после того, как его наследники пожаловались на «неуважительные изображения» лидера движения за гражданские права. Пользователи создавали видео с помощью ИИ, показывающие Кинга в расистских сценариях, включая ролики, изображающие его издающим оскорбительные звуки во время речи «У меня есть мечта» и совершающим грубые действия.​

«Некоторые пользователи создали неуважительные изображения доктора Кинга», — заявили OpenAI и наследники Кинга в совместном заявлении в четверг. Бернис Кинг, дочь доктора Кинга, публично попросила людей прекратить присылать ей сгенерированные ИИ видео с её отцом, что перекликается с аналогичными призывами Зельды Уильямс, дочери покойного комика Робина Уильямса.​