Anthropic блокира опити за използване на AI за разработване на биологични оръжия
Компанията за изкуствен интелект Anthropic съобщи, че е установила и прекъснала опити за използване на нейни AI модели за „злонамерена дейност", която потенциално би могла да подпомогне разработването на биологични оръжия.
Твърдението е част от последния доклад на компанията за разузнаване на заплахите и идва на фона на все по-честите предупреждения от изследователи и представители на технологичната индустрия за потенциалните рискове от развитието на изкуствения интелект.
Случаите, описани от Anthropic, обхващат период от осем месеца – от декември 2025 г. до август 2026 г. Компанията посочва, че е прекъснала злоупотреби с моделите Claude Haiku, Sonnet и Opus.
Един от най-сериозните акценти в доклада са пет случая, при които според Anthropic нейни модели са били използвани по начин, който би могъл да подпомогне разработването на биологични оръжия.
„Същата информация, която може да бъде използвана за разработване на биологично оръжие, може да бъде използвана и за разработване на ваксина или лечение на заболяване", посочва Anthropic.
Ръководителят на отдела за разузнаване на заплахите на компанията Джейкъб Клайн определя ситуацията като изключително сложна. Според него злоупотребата с AI не изглежда непременно като директен опит на някого да създаде биологично оръжие, а по-скоро може да се прояви чрез поредица от отделни действия и задачи, които сами по себе си изглеждат по-малко подозрителни.
Биологичните оръжия не са единствената причина за тревога. Според доклада моделът Claude е бил използван и в кампания за кибершпионаж, свързана с Русия, както и от иранска пропагандна институция. Anthropic описва широк спектър от злоупотреби – от фалшиви приложения за запознанства и измами чрез хотелски Wi-Fi мрежи до системи за наблюдение, предназначени да идентифицират дисиденти.
В доклада са посочени предполагаеми държавно подкрепяни групи, киберпрестъпници, доставчици на шпионски софтуер, пропагандни организации и политически мотивирани лица.
Компанията твърди, че е установила и прекъснала използването на AI за кибератаки, операции за влияние, наблюдение, измами и разработване на оръжия.
Anthropic съобщава и за шест случая, при които Claude е бил използван за създаване на софтуер, свързан с конвенционални оръжия.
Става дума за системи, предназначени за работа с огнестрелни оръжия, ракети, въоръжени дронове, бомби и други боеприпаси, както и за системи за насочване и управление.
В доклада се посочва, че киберпрестъпници и хакерски групи, подкрепяни от държави, все по-често използват AI инструменти за подпомагане на своите операции.
