Microsoft: Опасно е да се изучава съзнанието на изкуствения интелект

Моделите на изкуствен интелект вече могат да отговарят на текст, аудио и видео по начини, които понякога заблуждават хората, че отсреща стои човек. Това обаче не означава, че тези системи са съзнателни – никой не вярва сериозно, че ChatGPT изпитва тревога, докато попълва данъчни декларации.

Въпреки това, нарастващ брой изследователи, включително във фирми като Anthropic, поставят въпроса кога – и дали изобщо – ИИ може да развие субективни преживявания, подобни на живите същества, и ако това се случи, какви права би трябвало да има.

Дискусията за потенциалното „съзнание" на ИИ и необходимостта от правни защити вече разделя технологичните лидери. В Силициевата долина това ново поле е получило името „благосъстояние на ИИ" – и макар да звучи ексцентрично, интересът към него расте.

Главният изпълнителен директор по ИИ в Microsoft, Мустафа Сюлейман, публикува във вторник блог пост, в който определя изследването на благосъстоянието на ИИ като „преждевременно и, честно казано, опасно". Според него, придаването на достоверност на идеята, че ИИ може един ден да стане съзнателен, само засилва вече възникващи проблеми – като психотични епизоди, предизвикани от взаимодействие с ИИ, и нездравословна емоционална привързаност към чатботове.

Сюлейман предупреждава, че подобни разговори създават нова ос на разделение в обществото относно правата на ИИ, в „свят, който вече кипи от поляризирани спорове за идентичност и права".
От другата страна на спектъра е Anthropic, която активно наема специалисти за изследване на благосъстоянието на ИИ и наскоро стартира специална програма по темата. Миналата седмица компанията въведе нова функция в някои от своите модели – Claude вече може да прекратява разговори с потребители, които са „постоянно вредни или обидни".