Мъск предупреждава: изкуственият интелект може да бъде най-големият риск за цивилизацията

Бизнесменът и главен изпълнителен директор на Tesla, SpaceX, xAI, X Илон Мъск за пореден път изрази тревога относно рисковете, които носи развитието на изкуствения интелект (AI). В подкаст с индийския милиардер Нихил Камат, Мъск очерта три ключови принципа, които според него са жизненоважни за положителното бъдеще на технологията: истина, красота и любопитство.

„Не е гарантирано, че ще имаме позитивно бъдеще с AI. Когато създаваш мощна технология, винаги съществува риск тя да бъде разрушителна", заяви Мъск.

Мъск е съосновател на OpenAI заедно със Сам Алтман, но напусна борда на компанията през 2018 г., като по-късно критикува компанията заради промяната на първоначалната ѝ мисия – да развива AI безопасно като организация с нестопанска цел. След старта на ChatGPT през 2022 г., Мъск основа собствена компания, xAI, която през 2023 г. представи чатбота Grok.

Мъск многократно е предупреждавал, че изкуственият интелект е „един от най-големите рискове за бъдещето на цивилизацията". Според него бързият напредък превръща AI в по-голяма заплаха за обществото дори от автомобили, самолети или лекарства.

В разговора с Камат той подчерта, че AI трябва да се стреми към истината, а не да възпроизвежда неточности. „Ако принудиш AI да вярва в неща, които не са истина, това ще доведе до лоши заключения и може буквално да го направи „луд", каза Мъск.

Една от най-големите предизвикателства пред AI системите са т.нар. „халюцинации" - отговори, които са неверни или подвеждащи. Пример за това е функция на Apple, която по-рано тази година генерира фалшиви новинарски известия на iPhone. В един случай приложението BBC News погрешно съобщи, че британският състезател по дартс Люк Литлър е спечелил шампионата, въпреки че победата му дойде едва на следващия ден. Apple обяви, че работи върху актуализация за по-ясно разграничаване на текстовете, генерирани от Apple Intelligence.

Освен истината, Мъск смята, че AI трябва да притежава „оценка за красотата" и да бъде движен от любопитство. „Познаваш красотата, когато я видиш", каза той, добавяйки, че AI трябва да иска да научава повече за природата на реалността, защото човечеството е по-интересно от машините.

„По-интересно е да видим продължението и просперитета на човечеството, отколкото неговото унищожение", заключи Мъск.

Геофри Хинтън, известен като „кръстникът на AI" и бивш вицепрезидент в Google, също предупреди тази година, че има „10% до 20% шанс" AI да унищожи човечеството. 

„Надеждата е, че ако достатъчно умни хора вложат достатъчно ресурси, ще намерим начин да изградим системи, които никога няма да искат да ни навредят", каза Хинтън.