Проблема генерації неприязних та сексуалізованих зображень за допомогою штучного інтелекту продовжує хвилювати суспільство. Нещодавній звіт Технічного проекту прозорості виявив, що навіть усунення або обмеження доступу до редактора зображень Grok не є достатнім для зменшення кількості таких додатків.

У дослідженні було виявлено 55 додатків на платформі Google Play та 48 на App Store, які здатні «цифровим способом знімати одяг із жінок, показуючи їх повністю або частково оголеними, або в бікіні та іншому мінімальному одязі». Ці застосунки були завантажені понад 705 мільйонів разів у всьому світі, що принесло їм прибуток у розмірі 117 мільйонів доларів.

У відповідь на звіт, Google заблокував «кілька» програм, а Apple видалила 28 з них, хоча дві програми згодом були відновлені. Це вже не перше подібне занепокоєння, оскільки у 2024 році Apple і Google також реагували на звіт, який описував їхню невдачу у контролі над подібними додатками.

Попри вжиті заходи, такі платформи, як X і Grok, все ще доступні у магазинах додатків обох технологічних компаній. Як зазначає аналітик з The Verge, Єлізавета Лопато, Apple і Google швидко видалили додаток ICEBlock, але продовжують дозволяти X створювати принизливі зображення жінок.

Цей випадок підкреслює необхідність удосконалення політики контролю за додатками в обох магазинах, аби запобігти далій експлуатації технологій штучного інтелекту у неприйнятних цілях та захистити права жінок у цифровому просторі.