Нейромережа від Google образила користувача замість допомоги з домашнім завданням

Курйозний випадок стався з одним із користувачів нейромережі Gemini, яка була запущена Google ще у 2023 році. ІІ-помічник несподівано обматюкав свого співрозмовника, побажавши йому «померти».

Вся переписка з Gemini була опублікована у відкритому доступі, тож з нею можна ознайомитися детальніше. Очевидно, користувач вирішував завдання для домашнього завдання з психології та консультувався з ІІ. Проте у відповідь на одне з питань нейромережа несподівано наговорила власнику гидот:

Найімовірніше, причиною для такої відповіді стали попередні запити користувача. Наприклад, якщо подивитися всю історію переписки, можна побачити, що співрозмовник ставив питання про фізичне насильство та його виявлення. Ймовірно, що Gemini просто «зациклило» і нейромережа видала помилкове повідомлення — подібне вже було з AI Overview. На Reddit навіть припустили, що користувач стер частину переписки та тригерний запит, щоб відповідь виглядала більш драматично.

Сам же ІІ-помічник вибачився у своєму наступному повідомленні, заявивши, що поводився некоректно:

Раніше голова Open AI заявив, що самонавчальний ІІ з'явиться всього через кілька років.