Большинство людей не смогли отличить видео, созданное нейронной сетью Соры, от реального.

Несколько недель назад компания Open AI представила нейросеть Sora, способную генерировать реалистичное видео продолжительностью до одной минуты с разрешением 1920 × 1080 пикселей на основе текстового описания. Теперь компания HarrisX провела опрос, предлагая взрослым американцам различить сгенерированное ИИ видео от настоящего. Оказалось, что большинство респондентов ошиблось в 5 из 8 предложенных в рамках опроса роликов.

В опросе, который проводился с 1 по 4 марта в США, участвовали более 1000 американцев. Авторы исследования создали четыре высококачественных ролика с помощью нейросети Sora и выбрали четыре небольших видео, снятых на камеру в реальном мире. Респондентам случайным образом демонстрировали эти видео с целью определить, снят ли ролик человеком или создан искусственным интеллектом. Мнения участников опроса разделились, и в 5 из 8 случаев большинство респондентов дало неверные ответы, передает Variety.

Это исследование указывает на то, что контент, создаваемый с использованием генеративных нейросетей, становится все более реалистичным, и его отличие от реального становится все труднее. Именно поэтому в различных странах всё чаще звучат призывы к властям о необходимости законодательного регулирования этого сегмента. Среди предложений в частности выдвигается идея обязательного помечивания пользователей нейросетей созданного контента, чтобы избежать введения других в заблуждение и предотвратить его использование в качестве источника дезинформации.

Алгоритм Sora пока не доступен широкой публике, однако уже вызывает серьезную тревогу в обществе, особенно в индустрии развлечений, где развитие технологий генерации видео несет массу негативных последствий, например, для киностудий. Более того, всё чаще поднимается вопрос о том, что подобные алгоритмы, подобные Sora, могут использоваться для создания фейковых видео с участием политиков и знаменитостей, что может привести к самым непредсказуемым последствиям.