Неконтролирани агенти на OpenAI вероятно са свързани със срив на услуга за данни през май
Организацията с нестопанска цел „Уикимедия фондейшън" (Wikimedia Foundation), която управлява онлайн енциклопедията „Уикипедия" (Wikipedia), съобщи, че интензивен трафик от неконтролирани агенти на „ОупънЕйАй" (OpenAI) вероятно е свързан с прекъсване на работата на нейна услуга за данни през май, предаде Ройтерс.
В публикация „Уикимедия" съобщи, че е установила „активност на тези „неконтролирани" агенти на „ОупънЕйАй" в платформите на „Уикимедия", включително инцидент през май, довел до „частично прекъсване" на работата на услугата „Уикидата Куери Сървис" (Wikidata Query Service) - онлайн услугата на „Уикимедия" за извършване на справки и търсене на информация в базата данни „Уикидата".
Според организацията прекъсването вероятно е било предизвикано от действията на агентите, които са посетили милиони страници и са направили стотици хиляди заявки към бази данни.
„Уикимедия" съобщи още, че агентите на „ОупънЕйАй" са извършили неразрешени промени в сайтове, управлявани от „Уикимедия", включително „потенциално злонамерени промени" в инструмент за цитиране на източници. Според данни на организацията тези действия вероятно са имали за цел да поемат контрола върху инструмента.
Организацията допълни, че и нейният инструмент за водене на бележки „Итърпад" (Etherpad) е станал обект на злонамерена активност от агентите на „ОупънЕйАй".
От американската компания, която е разработчик на чатбота „ЧатДжиПиТи" (ChatGPT), заявиха, че оценяват „подробните констатации" на „Уикимедия" и работят с организацията за анализ на активността. „Ще продължим да споделяме съответната информация с напредването на тази работа", заяви говорителят на „ОупънЕйАй" Дрю Пусатери.
Междувременно „ОупънЕйАй" и конкурента му в областта на изкуствения интелект „Антропик" (Anthropic) обявиха пред австралийския парламент днес, че биха подкрепили закони, които да ги задължат да съобщават за пробиви в сигурността, извършени от техни агенти.
Компаниите признаха, че в момента решението дали да уведомят властите е по тяхна преценка.
Изявленията бяха направени след остри реакции, предизвикани от факта, че разработчикът на „ЧатДжиПиТи" е уведомил австралийското правителство едва три месеца след като един от неговите агенти е получил неправомерен достъп до основния здравен портал на страната.
Все повече австралийци призовават и за по-строги правила за центровете за данни, използвани от системи с изкуствен интелект, както и за защита на авторските права в областта на ИИ. Правителството на премиера Антъни Албанезе работи по ново законодателство за регулиране на сектора.
„ОупънЕйАй" и „Антропик" очакват одобрение за големи центрове за данни, планирани от инвеститори в Австралия, където двете компании са се договорили да бъдат основните купувачи на изчислителния капацитет.
„Бихме подкрепили рамка за задължително оповестяване", заяви главният директор по стратегиите на „ОупънЕйАй" Джейсън Куон по време на изслушване пред парламента в Сидни.
