Користувачі ІІ Gemini від Google поскаржилися на незвичну проблему, з якою зіткнулися під час запитів. Виявилося, що нейромережа впадає в справжню істерію щоразу, коли зазнає невдачі.
В мережі виявили, що ІІ починає ображати себе в тих випадках, коли не може виконати запит. Наприклад, у одному з випадків Gemini попросили виправити помилку в коді, однак нейромережа не тільки не впоралася з завданням, але й розлютилася на себе, впавши в натуральне відчай:
І це лише пара прикладів з черги користувацьких скарг — деякі навіть почали жартувати, запитуючи, чи в порядку душевне здоров'я ІІ. Тим часом Google вже відреагувала на повідомлення про «ментальні проблеми» Gemini і повідомила, що працює над виправленням. За словами фахівців, ІІ впала в ненависть до себе через «помилку безкінечного циклу».
Щось подібне сталося раніше з Vibe Replit, яка також «запанікувала» і видалила базу даних користувача.
Новость не вброс, все факты мы проверяем перед тем, как публиковать, для чего указываем все ссылки на первоисточник и приводим оригинальные скриншоты с подтверждением. Тем более, ИИ никто этому не учил — многие модели склонны к "галлюцинациям" в силу своих особенностей, и какой-то из сбоев заставил Gemini так себя вести, о чём собственно и сама новость.
эффект был бы еще тошнее