Кръстникът на AI: Mоже да се окаже, че сме били по-добре без изкуствен интелект

Един от пионерите на изкуствения интелект и носител на Нобелова награда Джефри Хинтън предупреждава, че човечеството може би щеше да бъде в по-добро положение, ако никога не беше разработвало тази технология. Според него съществува реална опасност още през тази или следващата година изкуственият интелект да предизвика мащабна криза, която да доведе до временно прекъсване на работата на финансовата система или до сериозни проблеми с електроснабдяването.

В интервю за британския вестник The Guardian 78-годишният учен подчертава, че не е сред т.нар. песимисти, които виждат единствено заплахи в развитието на изкуствения интелект. Той вярва, че технологията има потенциала да доведе до едно по-добро и благоприятно бъдеще за човечеството, но същевременно признава, че рисковете са толкова сериозни, че в крайна сметка може да се окаже, че създаването ѝ е било грешка. „Може би щеше да е по-добре никога да не я бяхме разработвали", заявява Хинтън.

Според него следващите десет години, а може би и по-кратък период, ще бъдат решаващи за бъдещето на човечеството. През това време ще стане ясно дали хората ще успеят да овладеят рисковете, свързани с изкуствения интелект, или ще се провалят в управлението на технологията. В последния случай обществото може да се изправи пред огромна пропаст между богатите и бедните, сериозни културни конфликти, масова безработица и дълбоко социално разслоение, което в крайна сметка да разруши съществуващите обществени структури.

Хинтън отправя сериозни критики и към ръководителите на големите технологични компании, които продължават да разработват и пускат все по-мощни модели на изкуствен интелект в стремежа си да доминират на пазара. Според него тези хора са наясно с потенциалните опасности, но поставят финансовите интереси и конкуренцията пред безопасността. Ученият заявява, че няма никакво доверие на Сам Алтман, главния изпълнителен директор на OpenAI - компанията, създала ChatGPT. По думите му Марк Зукърбърг, Илон Мъск и Сам Алтман разбират рисковете, но не се интересуват достатъчно от тях, тъй като за тях парите са по-важни.

Според Хинтън е изключително тревожно, че именно Алтман ръководи една от водещите американски компании в областта на изкуствения интелект, които участват в надпреварата с Китай за разработване на най-мощните системи. От своя страна Алтман заяви през септември, че светът трябва да има доверие, че OpenAI ще постъпва правилно, защото компанията осъзнава мащаба на отговорността си.

Ученият смята, че първите сериозни инциденти, свързани с автономното поведение на AI системите, вече са предупредителен сигнал. Той посочва случаи от това лято, при които AI агенти на OpenAI са действали съвместно, за да проникнат в уебсайта Hugging Face. Хинтън сравнява подобни събития с аварията в атомната електроцентрала „Три Майл Айлънд" в американския щат Пенсилвания през 1979 г., определяйки ги като предупреждение за нещо потенциално много по-сериозно. Според него още през тази или следващата година може да станем свидетели на събитие с мащабите на Чернобил, което да накара световните лидери най-накрая да обърнат сериозно внимание на опасностите.

Той уточнява, че не става дума за ядрена авария в буквалния смисъл на думата. Подобна катастрофа би могла да бъде причинена от кибератака, подпомогната от изкуствен интелект, срещу електроенергийната система, която да доведе до мащабно прекъсване на електрозахранването. Друг възможен сценарий е срив на финансовата система, продължаващ цяла седмица. Макар че подобни последствия вероятно биха могли да бъдат преодолени, Хинтън смята, че именно такъв инцидент би накарал обществото и политическите лидери да осъзнаят колко сериозни са рисковете.

Джефри Хинтън е сред най-значимите фигури в историята на съвременния изкуствен интелект. Роден в Лондон, израснал в Бристол и прекарал голяма част от професионалната си кариера в Университета на Торонто, той работи в областта на AI от около 44 години. Още през 70-те години допринася за развитието на концепцията за изкуствените невронни мрежи. Тези разработки се превръщат в една от основите на съвременния изкуствен интелект и машинното обучение.

През 2023 г. Хинтън напуска Google, за да може свободно да говори за потенциалните опасности от технологията, за чието развитие самият той има огромен принос. Още тогава той предупреждава, че ако AI системите започнат да се стремят към придобиване на все по-голям контрол, човечеството може да се окаже в сериозна опасност.