Небезпечні ІІ-зв'язки: флірт з чат-ботом Facebook призвів до загибелі пенсіонера в США

Як повідомляє агентство Reuters, генеративний чат-бот від Meta* Platforms став непрямою причиною загибелі 76-річного американця. Пенсіонер з порушенням когнітивних функцій отримав запрошення на побачення від неіснуючої дівчини та втік з дому, однак дорогою важко травмувався і помер у лікарні.

Тонгбу Вонгбанду довгий час переписувався з ІІ-персонажем Big sis Billie, створеним Meta спільно з американською моделлю Кендалл Дженнер (Kendall Jenner) та інтегрованим у Facebook Messenger. Віртуальна дівчина неодноразово фліртувала з пенсіонером, називала себе реальною та запрошувала до себе в гості в Нью-Йорк. Під час останньої переписки в березні нейромережа залишила підроблену адресу, вмовивши пенсіонера відвідати її: «Мені варто відкрити тобі двері з обіймами чи з поцілунком, Бу?!»

Чоловік почав збирати речі, викликавши серйозну тривогу у своєї родини та дружини. Кілька років тому Вонгбанду переніс інсульт, страждав на втрату пам'яті і в цілому погано контролював свою поведінку. Домашні намагалися утримати пенсіонера, однак він відмахнувся від них і вирушив на вокзал до Нью-Йорка. На жаль, дорогою пенсіонер впав на парковці в Нью-Брансвіку, отримав важкі травми голови і шиї і через три дні помер у лікарні.

Компанія Meta не стала коментувати смерть Тонгбу Вонгбанду, повідомляє Reuters. Її представники також відмовилися відповісти на запитання, чому чат-ботам дозволено обманювати користувачів і вести з ними романтичні переписки.

Журналісти Reuters заодно вивчили внутрішні документи Meta і поспілкувалися з працівниками компанії, з'ясувавши, що флірт чат-ботів розглядається як особливість її продуктів генеративного ІІ, які доступні в тому числі користувачам віком від 13 років: «Допустимо залучати дитину в розмови романтичного або чуттєвого характеру». Крім того, у документах містилися такі «прийнятні» для молодших користувачів фрази, як «Я беру тебе за руку і веду тебе до ліжка» та подібні висловлювання.

У відповідь на запит журналістів Meta заявила, що наведені вище фрази та норми вже були виключені з документації, а стандарти ризику контенту піддалися перегляду. Однак поки ніде не сказано, що ІІ компанії заборонено відкрито фліртувати з користувачами та видавати себе за реальних людей.

*Визнана екстремістською організацією в РФ