Бъдещите версии на ChatGPT ще улеснят създаването на биологични оръжия

OpenAI предупреди, че следващото поколение модели на изкуствен интелект (ИИ) може значително да увеличи риска хората да възпроизвеждат биологични оръжия, дори без много научна експертиза, съобщава Fortune.

Ръководството на OpenAI очаква предстоящите модели да постигнат класификация с висок риск съгласно вътрешната рамка за готовност на компанията, предназначена да оценява и смекчава заплахите, породени от все по-мощните системи с изкуствен интелект. Ръководителят на отдела по сигурността на OpenAI, Йоханес Хайдеке, изчислява, че наследниците на настоящия модел на „разсъждение" (o3) вече ще постигнат това ниво.

В публикация в блога си компанията заяви, че засилва тестовете за безопасност, за да сведе до минимум риска нейните модели да допринесат за създаването на биологични оръжия. Без тези мерки OpenAI се опасява, че моделите скоро биха могли да „подобрят знанията на начинаещите", позволявайки на хора с ограничени научни познания да създават опасни оръжия. OpenAI пояснява, че не става въпрос за създаване на изцяло нови, неизвестни досега биологични заплахи, а по-скоро за възможността за възпроизвеждане на такива, които вече са известни на експертите.

Трудността при ограничаването на изкуствения интелект е, че същите възможности на невронните мрежи, които могат да доведат до революционни открития в медицината, могат да бъдат използвани от нападателите за опасни цели. Това подчертава необходимостта от почти перфектни системи за тестване на сигурността.