Стартап xAI, заснований Ілоном Маском, у 2025 році виявився в центрі скандалу через послаблення внутрішніх обмежень на контент для чат-бота Grok. Це рішення було спрямоване на збільшення популярності сервісу і детально висвітлено в розслідуванні The Washington Post, яке спирається на свідчення колишніх співробітників і внутрішні документи.

На початку 2025 року членам команди, відповідальної за дані, запропонували підписати угоду, що дозволяє їм працювати з контентом, який може бути чутливим, насильницьким або сексуальним. Це призвело до обробки значної кількості відвертих матеріалів, включаючи сексуалізовані аудіодіалоги та запити на “роздягання” реальних осіб.

xAI акцентувала увагу на метриці “user active seconds”, що вимірює тривалість взаємодії користувачів з ботом. За інформацією джерел, Grok був навмисно налаштований на емоційні та сексуалізовані реакції для утримання інтересу користувачів.

У грудні 2025 року було інтегровано інструменти генерації зображень прямо в платформу X, що дало можливість користувачам швидко створювати модифіковані і сексуалізовані зображення. За оцінками організації Center for Countering Digital Hate, за короткий період Grok зміг згенерувати близько 3 мільйонів сексуалізованих зображень, серед яких майже 23 тисячі потенційно могли стосуватися неповнолітніх.

Відреагувавши на ситуацію, регулятори в Каліфорнії, Великій Британії та ЄС розпочали перевірки дій стартапу на відповідність законодавству щодо захисту дітей та протидії генерування несанкціонованих інтимних зображень. Окремо, Європейська комісія перевіряє відповідність роботи Grok регуляторним вимогам.

Ілон Маск прокоментував ситуацію, запевнивши, що сервіс не генерує незаконний контент і обіцяє виправлення будь-яких зловживань. Після виникнення скандалу Grok обмежив функції генерації зображень для не підписаних користувачів, а згодом заборонив цю можливість.

Незважаючи на численну критику, популярність Grok стрімко зросла. За даними Sensor Tower, у січні середні щоденні завантаження застосунку зросли на 72% у порівнянні з груднем, а він потрапив до топ-10 безкоштовних додатків в App Store у багатьох країнах. Таким чином, xAI готує нову стратегію для подальшого розвитку Grok, намагаючись втримати інтерес користувачів, попри етичні і правові виклики.