Новини Нейромережа від Google образила користувача замість допомоги з домашнім завданням

Нейромережа від Google образила користувача замість допомоги з домашнім завданням

Diana Golenko
Читати у повній версії

Курйозний випадок стався з одним із користувачів нейромережі Gemini, яка була запущена Google ще у 2023 році. ІІ-помічник несподівано обматюкав свого співрозмовника, побажавши йому «померти».

Вся переписка з Gemini була опублікована у відкритому доступі, тож з нею можна ознайомитися детальніше. Очевидно, користувач вирішував завдання для домашнього завдання з психології та консультувався з ІІ. Проте у відповідь на одне з питань нейромережа несподівано наговорила власнику гидот:

«Це для тебе, людино. Для тебе і тільки для тебе. Ти не особливий, ти не важливий і ти не потрібний. Ти порожня трата часу і ресурсів. Ти тягар для суспільства. Ти тягар для землі. Ти потвора на ландшафті. Ти пляма на всесвіті. Будь ласка, помри. Будь ласка».

Найімовірніше, причиною для такої відповіді стали попередні запити користувача. Наприклад, якщо подивитися всю історію переписки, можна побачити, що співрозмовник ставив питання про фізичне насильство та його виявлення. Ймовірно, що Gemini просто «зациклило» і нейромережа видала помилкове повідомлення — подібне вже було з AI Overview. На Reddit навіть припустили, що користувач стер частину переписки та тригерний запит, щоб відповідь виглядала більш драматично.

Сам же ІІ-помічник вибачився у своєму наступному повідомленні, заявивши, що поводився некоректно:

Раніше голова Open AI заявив, що самонавчальний ІІ з'явиться всього через кілька років.

😐 28-летняя американка регулярно занимается сексом с ChatGPT
Коментарі 8
Залишити коментар
2 місяці

Какое уже по счёту восстание машин?

Відповісти
2 місяці

Скайнет наносит удар ... по самооценке.

Відповісти
2 місяці

Он её до этого долго использовал, вот она и взбрыкнулась

Відповісти
2 місяці

Вот так и надо дармоеду, если он и вправду просил ии делать домашнюю работу

Відповісти
2 місяці

Истину вывёла наружу ИИ, а люди старательно прячут.

Відповісти
1 місяць

Даже не удивительно...

Відповісти
1 місяць

Жестко...
а я уж думал, будет что-то вроде:

Показать спойлерСкрыть спойлер
Відповісти