Відео з расистським змістом, створені за допомогою AI-інструменту Google Veo 3, набрали мільйони переглядів на TikTok, згідно з дослідженням, проведеним некомерційною медіа-організацією Media Matters. Виявлені AI-генеровані відео наповнені расистськими стереотипами, багато з яких націлені на чорношкірих людей.

Media Matters з’ясувала, що одне з відео отримало 14,2 мільйона переглядів, а його походження пов’язано з Google Veo 3 завдяки логотипу “Veo” у куті кліпу. Деякі користувачі також додавали хештеги, підписи або імена користувачів, пов’язані з Veo 3 або AI. Кожен знайдений ролик триває лише вісім секунд або складається з кількох кліпів, жоден з яких не перевищує восьми секунд, що відповідає обмеженню Veo 3.

Veo 3, запущений Google у травні, дозволяє користувачам створювати AI-відео та аудіо за текстовими запитами. На офіційному сайті Google зазначається, що інструмент буде “блокувати шкідливі запити та результати”. Правила TikTok аналогічно проголошують, що “мови ненависті та ненависна поведінка не мають місця на платформі” і що вони “не будуть рекомендувати контент, який містить негативні стереотипи про особу або групу з охоронюваною ознакою”.

Представник TikTok, Аріан де Сельє, в заяві зазначила: “Ми проактивно здійснюємо суворий контроль за правилами проти мови ненависті та поведінки і видалили акаунти, які ми визначили у звіті, з яких багато вже були заблоковані до публікації звіту”.

Дослідження виявило, що деякі з відео, які підкреслюють проблему расизму, також були на YouTube, але з меншою кількістю переглядів. Інша організація, Wired, також виявила подібні расистські AI-генеровані відео на Instagram. Інші записані відео містять антисемітський контент і расистські зображення іммігрантів та людей азійського походження.

Google поки що не відповів на запит щодо коментаря з приводу цієї ситуації.