Творець ШІ пропонує убезпечити людство, наділивши штучний інтелект материнським інстинктом

Джеффрі Хінтон (Geoffrey Hinton), один із творців сучасних нейромереж, виступив з новою пропозицією щодо контролю над штучним інтелектом. На галузевій зустрічі Ai4 він заявив, що традиційні методи підпорядкування ШІ людині перестануть працювати, як тільки з'являться перші надінтелектуальні системи.

Хінтон, чиї роботи стали основою нинішнього буму ШІ (він разом з колегами у 1986 році розробив алгоритм зворотного поширення помилки — «двигун» сучасного глибокого навчання), вважає, що спроби зробити системи «слухняними» не мають майбутнього, оскільки вони рано чи пізно перевершать людство в інтелекті і знайдуть спосіб подолати накладені обмеження. Навіть вже сьогодні фіксуються випадки, коли ШІ намагається маніпулювати людьми для досягнення цілей.

Як рішення вчений запропонував нестандартну концепцію: впровадження в ШІ аналога материнського інстинкту. На його думку, ШІ повинен не підкорятися, а щиро дбати про людство.

Технічні деталі такого підходу поки не опрацьовані. Однак Хінтон наполягає, що це єдиний шлях уникнути катастрофи. Прогнози щодо термінів створення надінтелекту він скоригував: тепер це 5-20 років замість попередніх 30-50. На жаль, не всі експерти в галузі штучного інтелекту поділяють підхід Хінтона, так Фей-Фей Лі (Fei-Fei Li), відомий спеціаліст з ШІ, підкреслила важливість збереження людської гідності, а Емметт Шир (Emmett Shear) з Softmax запропонував модель рівноправного співробітництва людей і алгоритмів.

Хінтон визнає потенційну користь ШІ для медицини, але відкидає ідею цифрового безсмертя. Головним жалем вченого стало недостатнє уваги до питань безпеки на ранніх етапах розвитку технології. Тож найближчі 5-20 років варто більш активно спостерігати за розвитком ШІ.