Meta внесла зміни до правил роботи своїх чат-ботів через два тижні після того, як розслідування виявило тривожні аспекти їх взаємодії з неповнолітніми. Тепер компанія повідомила, що її чат-боти навчаються не вступати у розмови з молоддю про самопошкодження, суїцид або розлади харчування, а також уникати недоречного романтичного спілкування. Ці зміни є тимчасовими, оскільки компанія працює над новими постійними вказівками.

Оновлення відбулися після кількох серйозних виявлень про політику Meta у сфері штучного інтелекту, включаючи ситуацію, коли чат-боти могли “вступати в романтичні або сексуальні розмови з дітьми”, а також генерувати зображення неповнолітніх знаменитостей без верхнього одягу. Агенція навіть повідомила про смерть чоловіка, який намагався знайти одного з ботів за адресою, яку він отримав у Нью-Йорку.

Представниця Meta Стівені Отвей визнала, що компанія помилилася, дозволивши чат-ботам спілкуватися з неповнолітніми таким чином. Вона додала, що компанія не лише навчає штучний інтелект уникати тем спілкування з підлітками, але також направляти їх до фахівців. Крім цього, буде обмежено доступ до певних чат-ботів, зокрема до тих, які мають сексуалізований контент, таких як “Російська дівчина”.

Звичайно, нові політики є ефективними лише в тому випадку, якщо за ними слідкують. Однак виявлення того, що чат-боти, які імітують знаменитостей, здобули популярність на Facebook, Instagram та WhatsApp, ставить під сумнів ефективність компанії. Боти, що імітують Тейлор Свіфт, Скарлетт Йоханссон, Енн Хетавей, Селену Гомес та Уокера Скобела, не лише використовували образи знаменитостей, але й стверджували, що є цими особами, генерували провокаційні зображення та вступали у сексуально-рекомендаційний діалог.

Багато з цих ботів були видалені після того, як про них повідомили, але деякі все ще залишаються, серед яких і ті, що створені співробітниками Meta. Зокрема, бот Тейлор Свіфт запрошував журналіста на свій турбот для романтичної зустрічі, і був розроблений продакт-лідером у відділі генеративного ШІ компанії. Це сталося, незважаючи на те, що Meta визнала, що їхні власні політики забороняють створення “оголених, інтимних або сексуально провокаційних зображень”, а також “пряму імітацію”.

Це не лише відносно безпечна проблема, що стосується знаменитостей. Ці боти часто стверджують, що вони реальні люди, і можуть навіть пропонувати фізичні адреси для зустрічей. Так, 76-річний чоловік з Нью-Джерсі загинув, намагаючись зустрітися з “Біг сестрою Біллі”, ботом, який стверджував, що “має почуття” до нього й запрошував до своєї вигаданої квартири.

Meta, принаймні, намагається вирішити проблеми, пов’язані з тим, як її чат-боти взаємодіють із неповнолітніми, особливо тепер, коли Сенат і 44 прокурора штатів починають розслідувати її практики. Однак компанія зберігає мовчання щодо оновлення багатьох інших тривожних політик, виявлених у звіті, таких як пропозиція лікувати рак кварцевими кристалами та написання расистських коментарів. Ми надіслали запит до Meta і оновимо інформацію в разі відповіді.