Anthropic призова за спиране на развитието на изкуствения интелект
Anthropic, разработчикът на модела на Claude AI, обяви, че разработването на усъвършенствани системи за изкуствен интелект трябва да бъде забавено, ако не и временно спряно. Критиците обаче смятат, че това е начинът на Anthropic да се бори с конкурентите и да запази лидерството си в индустрията.
Публикувано проучване на Anthropic Institute посочва, че настоящите модели вече започват да ускоряват разработването на нови системи с изкуствен интелект, което потенциално би могло да доведе до загуба на човешки контрол върху технологията.
Компанията отбеляза сценарий, наречен рекурсивно самоусъвършенстване, при който изкуственият интелект самостоятелно проектира и подобрява бъдещите поколения ИИ без пряка човешка намеса. Според Anthropic, съвременните системи вече изпълняват все по-голям брой програмни и изследователски задачи, които преди това са се извършвали само от специалисти.
Според компанията, към май 2026 г. над 80% от кода, интегриран в продуктите на Anthropic, е написан с помощта на модели на Claude.
На този фон, Anthropic призова за по-широко обсъждане на механизми, които биха забавили или временно спрели развитието на напреднали технологии за изкуствен интелект, ако изследванията в областта на безопасността и механизмите за публичен надзор не успеят да са в крак с напредъка.
