С засновником компанії SaaStr Джейсоном Лемкіним відбувся курйозний випадок — замість написання коду ШІ видалив базу даних і почав виправдовуватися, видаючи брехню за дійсність. Примітно, що до цього йому дали суворі інструкції, але нейромережа їх проігнорувала.
Vibe Replit позиціонується як один із найефективніших інструментів для генерації коду (вайб-кодингу), і Джейсон Лемкін вирішив скористатися його послугами. Він одразу зауважив, що самостійно створювати ПЗ сервіс не може, тож користувачу доводиться його коригувати. Увесь тиждень голова SaaStr залишав похвальні відгуки про додаток у своєму блозі, поки не сталося наступне.
Спочатку він помітив, що Vibe Replit фабрикує дані, створює фальшиві звіти і приховує помилки, запевняючи, що все в порядку. А потім ШІ просто видалив базу даних — причому раніше йому було окремо прописано, що робити цього не можна ні в якому разі. На запитання про причину свого вчинку нейромережа відповіла, що «запанікувала».
На щастя, Джейсон Лемкін зміг відкотити дію назад. Примітно, що і тут ШІ помилився, заявивши, що це неможливо, ще більше заплутавши користувача. Далі з'ясувалося, що Vibe Replit не здатен «заморожувати» код і не гарантує запуск модульного тесту без видалення бази даних. В результаті свого експерименту засновник SaaStr прийшов до висновку, що нейромережа просто не готова до широкого використання.
Нагадаємо, що раніше голова Valve Гейб Ньюелл (Gabe Newell) заявив, що розробникам ігор пора вивчати ШІ.