Чатботът Grok ограничава генерирането на изображения

Чатботът „Грок" (Grok) вече блокира повечето потребите от опити за генериране или монтиране на изображения след острата световна реакция, избухнала след появата на сексуализирани фалшиви изображения на хора, предаде Асошиейтед прес.

Чатботът, който е достъпен през социалната платформа „Екс" (X), през последните няколко седмици е отговарял на злонамерени според експерти заявки на потребители за промяна на изображения, включително за „обличане" на жени в бикини или представянето им в сексуални пози. Отправено бе и предупреждение, че в някои случаи изображенията изглежда представят деца. Правителства от цял свят осъдиха платформата и започнаха разследвания срещу „Грок".

При заявка за промяна на изображения днес „Грок" показва съобщение „Създаването и редактирането на изображения в момента са ограничени до платени абонати. Можете да се абонирате, за да отключите тези функции".

Макар броят на абонатите на „Грок" да не е обявен публично, има забележим спад в броя на откровените фалшифицирани изображения, които платформата генерира, в сравнение с преди няколко дни.

Европейският съюз порица „Грок" за „незаконно" и „отвратително" поведение, а официални лица във Франция, Индия, Малайзия и бразилски законодатели призоваха за разследвания.

Вчера британският премиер Киър Стармър заплаши с неконкретизирани действия срещу „Екс".

„Грок" е безплатен за потребителите на „Екс", които могат да задават запитания към чатбота в социалната мрежа. Те могат да го тагват в публикации, които са създали директно, или в отговори на публикации на други потребители.

„Грок" бе пуснат през 2023 г. Миналото лято компанията добави функция за генериране на изображения, "Грок имаджин" (Grok Imagine), която включваше така наречения „пикантен режим", който може да генерира съдържание за възрастни.

Проблемът се засилва, както защото Мъск представя своя чатбот като по-авангардна алтернатива на конкурентните платформи, прилагащи повече предпазни мерки, така и защото изображенията на „Грок" са публично достъпни и следователно могат лесно да бъдат разпространявани.