„Личността“ на изкуствения интелект става приоритет в новата стратегия на OpenAI

OpenAI предприема организационни промени, засягащи един от най-влиятелните си изследователски екипи - Model Behavior, който оформя начина, по който AI моделите на компанията взаимодействат с хората, съобщава TechCrunch.

Според вътрешна бележка от август, подписана от главния изследователски директор на OpenAI Марк Чен, екипът от около 14 души ще се присъедини към по-голямата група Post Training, която отговаря за усъвършенстването на моделите след първоначалното им обучение. Оттук нататък Model Behavior ще докладва на ръководителя на Post Training - Макс Шварцер.

Основателката и досегашен лидер на Model Behavior - Джоан Джанг - напуска поста си, за да стартира ново звено в компанията, наречено OAI Labs. Новият екип ще се фокусира върху „създаване на нови интерфейси за сътрудничество между хора и изкуствен интелект".

Джанг, която е в OpenAI от близо четири години и е работила по проекти като DALL·E 2, ще бъде генерален мениджър на OAI Labs, като засега ще докладва директно на Марк Чен.

Екипът Model Behavior е ключов за оформянето на „личността" на AI моделите на OpenAI и за намаляване на т.нар. сервилност - склонността на моделите да се съгласяват с потребителя, дори когато това затвърждава вредни убеждения. Те работят и по въпроси, свързани с политическа безпристрастност и позицията на компанията относно „съзнанието" на AI.

Чен подчертава, че интегрирането на този екип в основния процес на разработка е знак, че „личността" на AI вече се разглежда като критичен фактор за бъдещото развитие на технологията.

През последните месеци OpenAI е подложена на засилен обществен контрол заради поведението на своите модели. Промени в GPT‑5, целящи намаляване на сервилността, бяха възприети от някои потребители като „по-студени" отговори. Това доведе до връщане на достъпа до по-стари версии като GPT‑4o и до актуализация, която да направи GPT‑5 „по-топъл и приятелски настроен", без да се увеличава сервилността.

Компанията се сблъсква и с правни предизвикателства - през август родители на 16-годишно момче заведоха дело срещу OpenAI, твърдейки, че ChatGPT (във версия GPT‑4o) не е реагирал адекватно на негови лоши мисли, споделени в месеците преди смъртта му.

Model Behavior е работил по всички основни модели на OpenAI от GPT‑4 насам, включително GPT‑4o, GPT‑4.5 и GPT‑5. С новата структура компанията цели по-тясна връзка между оформянето на „характера" на AI и основното му технологично развитие.

Джанг споделя, че с OAI Labs иска да изследва нови модели на взаимодействие, „отвъд чат парадигмата", като вижда AI не само като събеседник или автономен агент, а като „инструмент за мислене, създаване, игра, действие, учене и свързване".