Meta заменя хиляди модератори с AI

Meta обяви мащабна трансформация в начина, по който модерира съдържанието в своите платформи, като планира значително да намали броя на служителите си проверяващи факти и премине към системи, базирани на изкуствен интелект.

Решението идва малко повече от година след като компанията се отказа се отказа от услугите на трети страни за проверка на факти. Според Meta новият подход ще позволи по-бързо откриване на проблемно съдържание и по‑малко грешки в сравнение с настоящите методи. Компанията не уточнява колко от хилядите ѝ външни служители по света ще бъдат засегнати, но подчертава, че хората ще продължат да играят ключова роля при най-сложните и рискови решения, като например обжалвания на блокирани акаунти или случаи, свързани с правоохранителните органи.

Meta твърди, че експертите ще обучават, наблюдават и оценяват AI системите, а ранните тестове с големи езикови модели показват „обещаващи" резултати. Новите инструменти могат да обработват езици, използвани от 98% от хората онлайн, докато настоящата модерация покрива около 80 езика. Макар правилата на компанията да не се променят, потребителите вероятно ще усетят разлика в начина, по който се прилагат. Много от тях вече смятат, че автоматизираните системи допускат твърде много грешки и затрудняват достъпа до човешки преглед при обжалвания. Meta обаче твърди, че новите AI модели правят по‑малко случаи на прекомерно прилагане на правилата и засичат повече тежки нарушения. Междувременно компанията въвежда и нов AI асистент за поддръжка, който вече се появява във Facebook и Instagram. Той ще помага при докладване на съдържание, обжалване на решения, нулиране на пароли и управление на настройки на акаунта, както и при отключване на профили в определени случаи в САЩ и Канада.