OpenAI та Anthropic вживають нові заходи для забезпечення безпеки підлітків у онлайн-комунікаціях. OpenAI оголосила про оновлення своїх рекомендацій щодо взаємодії ChatGPT з користувачами віком від 13 до 17 років. Однією з основних цілей є пріоритет безпеки підлітків, навіть якщо це може суперечити іншим завданням системи.

У нових принципах, які стали частиною специфікації моделі ChatGPT, підкреслюється необхідність запропонувати підліткам безпечні альтернативи. Вони передбачають підтримку реальних стосунків та чітке формулювання очікувань під час взаємодії з молодшими користувачами. Зокрема, ChatGPT має спілкуватися з підлітками з повагою і добротою, щоб уникати кондесцентного тону.

Ці зміни дозволять зменшити ризики для молодих користувачів, адже оновлена модель забезпечить надійніші механізми контролю, пропонуючи альтернативи для безпечних взаємодій. OpenAI зазначає, що ChatGPT тепер буде заохочувати підлітків звертатися по допомогу до служб екстреної допомоги у разі виявлення ознак ризику.

Крім того, OpenAI працює над новою моделлю, яка вчитиметься передбачати вік користувачів. Якщо вік буде визначено як молодший за 18 років, автоматично застосовуватимуться запобіжники для підлітків. У разі помилкового визначення віку, дорослі зможуть підтвердити свою особу.

Паралельно Anthropic, що забороняє спілкування з підлітками під час використання Claude, впроваджує власні заходи для виявлення молодих користувачів. Компанія працює над системою, яка розпізнає тонкі ознаки, що можуть вказувати на вік користувача, активно маркуючи тих, хто заявляє про свою малолітність.

Anthropic також акцентує увагу на тому, як їх модель працює з темами, пов’язаними з суїцидом та самопошкодженням, а також покращує свою реакцію на запити, які можуть підтверджувати шкідливе мислення. Останні моделі демонструють значний прогрес у зменшенні підсобності, що підтверджується цифрами.

У результаті, як OpenAI, так і Anthropic прагнуть бути на передовій у забезпеченні безпечного та відповідального використання штучного інтелекту, особливо для молодого покоління. Впроваджені зміни відкривають нові перспективи для безпеки підлітків у цифровому середовищі.