Основники сучасного ШІ закликали зупинити розробку надрозумних систем

Гонка технологічних гігантів за створенням штучного інтелекту, що перевершує людські можливості, зіткнулася з безпрецедентною критикою з боку самих засновників індустрії. Стів Возняк (Steve Wozniak), співзасновник Apple, та Джеффрі Хінтон (Geoffrey Hinton) з Йошуа Бенжіо (Yoshua Bengio), які вважаються творцями сучасних нейромереж, опинилися серед сотень підписантів відкритого звернення з вимогою заборонити розробку надрозумного ШІ.

Ініціатором листа виступила організація Future of Life Institute, що займається питаннями безпеки штучного інтелекту, при цьому автори заяви визнають потенційні вигоди від нових технологій, але вказують на катастрофічні ризики, які несуть неконтрольовані експерименти. Вони наполягають, що роботи повинні бути призупинені до моменту, коли міжнародне наукове співтовариство не доведе безпеку таких систем, а суспільство не буде готове до їх впровадження.

Список підписантів виявився незвично різнорідним, що підкреслює широту занепокоєння. У ньому поряд з іменами провідних дослідників опинилися політики різного штибу, музиканти, зокрема Grimes, і навіть представники королівських сімей, адже всіх об'єднує їхній спільний страх — створення розуму, який людина не зможе зрозуміти і, що найважливіше, — контролювати.

Слід зазначити, що це вже не перша спроба експертів вплинути на розвиток галузі. У минулому році схоже звернення підписав Ілон Маск (Elon Musk), однак воно не мало помітного ефекту. Незважаючи на побоювання, деякі люди, голова OpenAI Сем Альтман (Sam Altman) прогнозує появу надрозуму до 2030 року, а Марк Цукерберг (Mark Zuckerberg) оголосив про реструктуризацію власного ШІ напрямку, щоб зосередитися на цій меті.

Заклики до обережності знаходять підтримку в суспільстві і згідно з даними опитувань, більшість жителів США виступають за суворе регулювання ШІ і вважають, що його не слід створювати без доказів безпеки, однак поки неясно, чи зможуть голоси скептиків переважити багатомільярдні інвестиції та амбіції корпорацій, які вирішили будь-якою ціною досягти технологічної переваги.