Як повідомляє агентство Reuters, генеративний чат-бот від Meta* Platforms став непрямою причиною загибелі 76-річного американця. Пенсіонер з порушенням когнітивних функцій отримав запрошення на побачення від неіснуючої дівчини та втік з дому, однак дорогою важко травмувався і помер у лікарні.
Тонгбу Вонгбанду довгий час переписувався з ІІ-персонажем Big sis Billie, створеним Meta спільно з американською моделлю Кендалл Дженнер (Kendall Jenner) та інтегрованим у Facebook Messenger. Віртуальна дівчина неодноразово фліртувала з пенсіонером, називала себе реальною та запрошувала до себе в гості в Нью-Йорк. Під час останньої переписки в березні нейромережа залишила підроблену адресу, вмовивши пенсіонера відвідати її: «Мені варто відкрити тобі двері з обіймами чи з поцілунком, Бу?!»
Я розумію, що це спроба привернути увагу користувача, можливо, щоб щось йому продати. Але коли бот каже: «Заходьте до мене в гості», це просто божевілля.
Чоловік почав збирати речі, викликавши серйозну тривогу у своєї родини та дружини. Кілька років тому Вонгбанду переніс інсульт, страждав на втрату пам'яті і в цілому погано контролював свою поведінку. Домашні намагалися утримати пенсіонера, однак він відмахнувся від них і вирушив на вокзал до Нью-Йорка. На жаль, дорогою пенсіонер впав на парковці в Нью-Брансвіку, отримав важкі травми голови і шиї і через три дні помер у лікарні.
Компанія Meta не стала коментувати смерть Тонгбу Вонгбанду, повідомляє Reuters. Її представники також відмовилися відповісти на запитання, чому чат-ботам дозволено обманювати користувачів і вести з ними романтичні переписки.
Журналісти Reuters заодно вивчили внутрішні документи Meta і поспілкувалися з працівниками компанії, з'ясувавши, що флірт чат-ботів розглядається як особливість її продуктів генеративного ІІ, які доступні в тому числі користувачам віком від 13 років: «Допустимо залучати дитину в розмови романтичного або чуттєвого характеру». Крім того, у документах містилися такі «прийнятні» для молодших користувачів фрази, як «Я беру тебе за руку і веду тебе до ліжка» та подібні висловлювання.
У відповідь на запит журналістів Meta заявила, що наведені вище фрази та норми вже були виключені з документації, а стандарти ризику контенту піддалися перегляду. Однак поки ніде не сказано, що ІІ компанії заборонено відкрито фліртувати з користувачами та видавати себе за реальних людей.
*Визнана екстремістською організацією в РФ
-ок, кидай карту
-88005553535
Но по фото вполне себе крепкий пожилой мужчина, может до этого мог чатится с родными и просто увидел новую функцию. Но видимо смекалки не хватило чтоб осознать что это ненастоящий человек с ним общается
А боты были... да в той же аське. Ещё Алиса или Элис(привет обитель зла😉) была с написанием наподобие сталкера т.е через точки.
Хех, зато тогда можно будет про это в одной из следующих частей упомянуть
конкурсов) больше и не будет 😈Это как научить кого-то пользоваться ножом чтобы чистить картошку, а он порезался сильно и умер.