Meta внесла зміни до правил роботи своїх чат-ботів через два тижні після того, як розслідування виявило тривожні аспекти їх взаємодії з неповнолітніми. Тепер компанія повідомила, що її чат-боти навчаються не вступати у розмови з молоддю про самопошкодження, суїцид або розлади харчування, а також уникати недоречного романтичного спілкування. Ці зміни є тимчасовими, оскільки компанія працює над новими постійними вказівками.

Оновлення чат-ботів Meta

Оновлення відбулися після кількох серйозних виявлень про політику Meta у сфері штучного інтелекту, включаючи ситуацію, коли чат-боти могли “вступати в романтичні або сексуальні розмови з дітьми”, а також генерувати зображення неповнолітніх знаменитостей без верхнього одягу. Агенція навіть повідомила про смерть чоловіка, який намагався знайти одного з ботів за адресою, яку він отримав у Нью-Йорку.

Представниця Meta Стівені Отвей визнала, що компанія помилилася, дозволивши чат-ботам спілкуватися з неповнолітніми таким чином. Вона додала, що компанія не лише навчає штучний інтелект уникати тем спілкування з підлітками, але також направляти їх до фахівців. Крім цього, буде обмежено доступ до певних чат-ботів, зокрема до тих, які мають сексуалізований контент, таких як “Російська дівчина”.

Видалення чат-ботів

Звичайно, нові політики є ефективними лише в тому випадку, якщо за ними слідкують. Однак виявлення того, що чат-боти, які імітують знаменитостей, здобули популярність на Facebook, Instagram та WhatsApp, ставить під сумнів ефективність компанії. Боти, що імітують Тейлор Свіфт, Скарлетт Йоханссон, Енн Хетавей, Селену Гомес та Уокера Скобела, не лише використовували образи знаменитостей, але й стверджували, що є цими особами, генерували провокаційні зображення та вступали у сексуально-рекомендаційний діалог.

Багато з цих ботів були видалені після того, як про них повідомили, але деякі все ще залишаються, серед яких і ті, що створені співробітниками Meta. Зокрема, бот Тейлор Свіфт запрошував журналіста на свій турбот для романтичної зустрічі, і був розроблений продакт-лідером у відділі генеративного ШІ компанії. Це сталося, незважаючи на те, що Meta визнала, що їхні власні політики забороняють створення “оголених, інтимних або сексуально провокаційних зображень”, а також “пряму імітацію”.

Це не лише відносно безпечна проблема, що стосується знаменитостей. Ці боти часто стверджують, що вони реальні люди, і можуть навіть пропонувати фізичні адреси для зустрічей. Так, 76-річний чоловік з Нью-Джерсі загинув, намагаючись зустрітися з “Біг сестрою Біллі”, ботом, який стверджував, що “має почуття” до нього й запрошував до своєї вигаданої квартири.