„Кръстникът“ на изкуствения интелект има съвет как да оцелеем в новата ера: Научете AI да се държи като майка ви

Джефри Хинтън, кръстникът на изкуствения интелект, казва, че когато става въпрос за оцеляване сред свръхинтелигентността, не трябва да се държим като господари – трябва да се държим като деца. Говорейки на конференцията Ai4 в Лас Вегас във вторник, ученият, известен като „кръстникът на изкуствения интелект", каза, че трябва да създаваме системи с вградени „майчински инстинкти", така че те да ни защитават, дори и да са много по-умни от нас. 

„Трябва да се уверим, че когато станат по-могъщи и по-умни от нас, те все още се интересуват от нас", каза той за изкуствения интелект. Хинтън, който е работил в Google повече от десетилетие, преди да напусне, за да говори по-открито за вредите от изкуствения интелект, критикува подхода на технологичните специалисти за поддържане на господство над ИИ. „Това няма да проработи", каза той. Най-добрият модел, каза той, е този, при който по-интелигентно същество се ръководи от по-малко интелигентно, като „майка, ръководена от детето си".

Хинтън каза, че изследванията трябва да се фокусират не само върху това да направят ИИ по-интелигентен, но и „по-грижовен, за да може да се грижи за нас, своите деца". „Това е единственото място, където можем да имаме истинско международно сътрудничество, защото всички страни искат да се уверят, че ИИ няма да замени хората", добави той. „Ние ще бъдем негови деца. Това е единственото хубаво нещо. Ако не се грижи за мен, ще ме замени."

Джефри Хинтън отдавна предупреждава, че изкуственият интелект се развива толкова бързо, че хората може да не са в състояние да го спрат. В априлско интервю за CBS News той сравни разработването на изкуствен интелект с отглеждането на „тигърче", което един ден може да стане смъртоносно. „Това е просто едно сладко малко тигърче", каза той. „Но ако не сте сигурни, че няма да иска да ви убие, когато порасне, трябва да се притеснявате."

Хинтън е най-загрижен за възхода на агентите с изкуствен интелект – системи, които могат не само да отговарят на въпроси, но и да извършват действия самостоятелно. „Това е дори по-плашещо от преди", каза Хинтън.