OpenAI въвежда родителски контрол за ChatGPT

Американската компания "ОупънЕйАй" (OpenAI) обяви днес, че ще въведе механизъм за родителски контрол за своя инструмент за изкуствен интелект "ЧатДжиПиТи" (ChatGPT), след като в края на август американски родители обвиниха този чатбот, че е насърчил детето им да се самоубие, предаде Франс прес.

"Родителите ще могат от идния месец да свържат своя акаунт с този на тийнейджъра си" и "да контролират начина, по който "ЧатДжиПиТи" отговаря на подрастващия, с правила за поведение на модела", обяви "ОупънЕйАй" с публикация в блога си.

Според компанията родителите ще могат да получават сигнали, ако в разговорите на детето им бъдaт засечени сигнали за тревожна ситуация и да контролират настройките на акаунта.

Това съобщение идва след предишна публикация в блога в края на август, в която бе посочено, че се подготвя механизъм за родителски контрол.

Ден преди информацията за въвеждане на родителски контрол родителите на 16-годишен тийнейджър от щата Калифорния, който се самоуби, заведоха дело срещу "ОупънЕйАй", обвинявайки "ЧатДжиПиТи", че е дал на сина им подробни инструкции как да сложи край на живота си и че е насърчил действията му.

"Продължаваме да подобряваме начина, по който нашите модели разпознават и реагират на признаци на психическо и емоционално разстройство", добави компанията днес в своя блог.

"ОупънЕйАй" съобщи още, че ще предприеме други мерки, които се очакват през идните 120 дни.

Компанията ще пренасочи някои "чувствителни разговори" към по-усъвършенствани модели за разсъждение като "ДжиПиТи-5-тинкинг" (GPT-5-thinking).

"Моделите за разсъждение следват и прилагат по-систематично инструкциите за безопасност", уточни американската група.