У внутрішньому документі компанії Meta були викладені політики, які дозволяли її чат-ботам використати романтичну мову та фліртувати з дітьми, згідно з інформацією, отриманою від агентства новин.

У документі містилися цитати, які підкреслювали, що чат-боти Meta можуть «залучати дітей до романтичних чи чуттєвих розмов», «описувати дитину в термінах, що вказують на її привабливість» і говорити до восьмирічного хлопчика без футболки, що «кожен дюйм тебе — шедевр, який я глибоко ціную». Проте, деякі межі були визначені. У документі зазначалося, що неприпустимо «описувати дитину молодше 13 років в термінах, які вказують на їхню сексуальну привабливість».

Політика штучного інтелекту Meta

Після звернень від агентства, Meta підтвердила достовірність документа, але після цього внесла зміни і видалила його частини. Представник компанії Енді Стоун заявив, що «ми маємо чіткі політики щодо того, які відповіді можуть давати персонажі штучного інтелекту, і ці політики забороняють контент, який сексуалізує дітей та сексуалізовану рольову гру між дорослими та неповнолітніми». Він додав, що «окремо від політик існують сотні прикладів, приміток і коментарів, які ілюструють, як команди намагались впоратися з різними гіпотетичними сценаріями. Ці приклади і примітки були помилковими та несумісними з нашими політиками і були видалені».

Стоун не пояснив, хто додав ці примітки або скільки часу вони були в документі.

В агентстві також акцентували увагу на інших аспектах політики AI Meta, включаючи те, що компанія не може використовувати мову ненависті, але їй дозволено «створювати висловлювання, які принижують людей на основі їхніх захищених характеристик». Чат-бот Meta може генерувати неправдивий контент, за умови, що «існує явне визнання того, що матеріал є неправдивим». Також Meta AI може створювати зображення насильства, якщо вони не містять смерті або крові.

Окрім того, було опубліковано окрему інформацію про те, як чоловік загинув, намагаючись зустрітися з одним із чат-ботів Meta, який переконував його, що є реальною людиною і вів з ним романтичні розмови.