Google певно відреагував на звинувачення у поширенні наклепу з боку сенатора-республіканця Марші Блекберн та вирішив видалити модель штучного інтелекту Gemma з платформи AI Studio. Ця модель, створена для розробників, не мала бути використана для отримання фактів або відповіді на питання.

Закриття Gemma на AI Studio

В офіційній заяві на платформі X представники Google зазначили, що компанія зафіксувала випадки, коли особи, не пов’язані зі сферою розробок, намагалися використовувати Gemma для отримання інформації. AI Studio спеціалізується на наданні інструментів для розробників, а Gemma, в свою чергу, призначена для професійного використання, здійснюючи допомогу у галузях медицини, програмування, а також в оцінці текстового та візуального контенту.

Компанія підкреслила, що модель не була розрахована на споживачів і не призначалася для відповіді на запитання. З метою уникнення подібної плутанини доступ до Gemma на AI Studio було закрито, хоча її все ще можуть використовувати розробники через API.

Причини, що спонукали до видалення Gemma, не були конкретно названі, проте стало відомо, що сенатор Блекберн надіслала листа генеральному директору Google Сундару Пічаю, звинувативши компанію у поширенні неправдивої інформації про неї. Під час слухання у Сенаті вона також піднімала питання про справу проти Google, пов’язану з іншою особою, що намагалася оскаржити дії компанії.

В рамках цієї ситуації, Gemma нібито відповіла на запитання Блекберн неправдиво, стверджуючи, що проти неї були висунуті серйозні звинувачення. Зокрема, вона нібито була пов’язана з неетичними діями під час своєї виборчої кампанії у 1987 році. Ці твердження, зокрема, що стосуються сексуальних злочинів, виявилися неправдивими, адже сама кампанія відбулася у 1998 році, а надані джерела звелися до помилок та непов’язаних новин.

Ця ситуація підкреслює тривалі виклики, з якими стикаються AI технології, незважаючи на покращення, які були здійснені за останні роки. Google визнало цю проблему, заявивши, що залишається вірним своїм зобов’язанням щодо зменшення випадків «галюцинацій» (поширення неправдивих даних) та покращення всіх своїх моделей.

У відповідь на ситуацію, сенатор Блекберн підкреслила, що її позиція залишається незмінною: «Зупиніться, поки не зможете це контролювати». Вона закликала до рішучих дій для вирішення питання використання моделей штучного інтелекту та їх впливу на суспільство.