Rada nadzorcza Facebooka zaleca przegląd kontrowersyjnego procesu przeglądania treści dla VIP-ów

Nowy Jork
Biznes CNN
—

Po roku studiów Metavin Rada nadzorcza Kontrowersyjny system firmy we wtorek miał „zaspokajać” proces ograniczania treści w inny sposób do postów VIP-ów. kwestie biznesowe” i ryzyka, które szkodzą codziennym użytkownikom.

W prawie 50-stronicowych konsultacjach, w tym dwa tuziny zaleceń dotyczących ulepszenia programu, panel – organizacja finansowana przez Meta, ale która twierdzi, że działa niezależnie – wezwał agencję do „radykalnego zwiększenia przejrzystości w zakresie walidacji krzyżowej”. ” i jak to działa. Nalegał również na przyjmowanie meta Kroki mające na celu ukrycie treści potencjalnie naruszających prawa przed najważniejszymi użytkownikami Podczas gdy jest w trakcie przeglądu, aby uniknąć dalszego rozprzestrzeniania się.

Program przesłuchań krzyżowych znalazł się pod ostrzałem w listopadzie ubiegłego roku Raport Według Wall Street Journal, system chroni niektórych użytkowników VIP – partnerów metabiznesowych, takich jak politycy, celebryci, dziennikarze i reklamodawcy – przed normalnym procesem moderacji treści firmy, umożliwiając im publikowanie treści, które czasami naruszają zasady bez żadnych konsekwencji. Od 2020 roku program obejmował 5,8 miliona użytkowników, podał dziennik.

W tamtym czasie Meta powiedział, że krytyka systemu była słuszna, ale sprawdzanie krzyżowe zostało opracowane w celu poprawy umiarkowanej dokładności treści, które „wymagają większego zrozumienia”.

Po raporcie, — poinformowała Rada Nadzorcza Facebook nie przekazał krytycznych szczegółów na temat organizacji, w tym części przeglądu decyzji zarządu dotyczącej zawieszenia byłego prezydenta USA Donalda Trumpa. W odpowiedzi spółka zwróciła się do rady nadzorczej o dokonanie przeglądu systemu kontroli krzyżowych.

Zasadniczo system kontroli krzyżowej oznacza, że ​​gdy użytkownik na liście opublikuje treść, która zostanie zidentyfikowana jako naruszająca zasady meta, post nie jest natychmiast usuwany (jak w przypadku zwykłych użytkowników), ale oczekuje na weryfikację przez człowieka.

Meta twierdzi, że program pomaga rozwiązywać „fałszywe negatywy”, w przypadku których treści są usuwane dla zwykłych użytkowników, nawet jeśli nie naruszają żadnej z jej zasad. Ale poddając użytkowników innemu procesowi kontroli krzyżowej, Meta „zapewnia większą ochronę niektórym użytkownikom niż innym”, a recenzent podaje ich postom pełny zakres zasad firmy, jak stwierdziła rada nadzorcza we wtorkowym raporcie.

„Chociaż agencja powiedziała komisji, że celem kontroli krzyżowej było zwiększenie zobowiązań Meta w zakresie praw człowieka, okazało się, że program wydaje się być zorganizowany bezpośrednio w celu zaspokojenia obaw biznesowych… Odkryliśmy również, że Meta nie śledziła danych dotyczących tego, czy walidacja krzyżowa daje dokładniejsze wyniki.

The Rada nadzorcza Jest organizacją zrzeszającą ekspertów w dziedzinie wolności słowa i praw człowieka. To jest Został opisany jako rodzaj sądu najwyższego dla meta, ponieważ pozwala użytkownikom odwoływać się od decyzji dotyczących treści na stronach firmowych. Chociaż Meta poprosiła panel o przegląd, nie jest zobowiązana do uwzględnienia jego zaleceń.

W poście na blogu opublikowanym we wtorek szef META ds. Globalnych, Nick Clegg, powtórzył, że celem kontroli krzyżowej jest „zapobieganie potencjalnemu nadmiernemu egzekwowaniu… i podwójne sprawdzanie, kiedy istnieje wysokie ryzyko błędu lub potencjalnego wpływu”. Pomyłka jest szczególnie rażąca”. Meta planuje odpowiedzieć na raport zarządu w ciągu 90 dni, powiedział. Clegg przedstawił kilka zmian, które agencja już wprowadziła do programu, w tym sformalizowanie kryteriów dodawania użytkowników i ustanowienie rocznych przeglądów listy.

W ramach szerszych konsultacji mających na celu restrukturyzację przesłuchania krzyżowego rada nadzorcza wyraziła obawy, opóźniając usunięcie treści naruszających prawo. Sprawdzając użytkowników oczekujących na dalszą weryfikację, firma może zezwolić na szkodliwe treści. Według Meta, stwierdzono, że „średnio podjęcie decyzji w sprawie treści od użytkowników z jej listy kontrolnej może zająć więcej niż pięć dni” oraz że „program działa z zaległościami, które opóźniają decyzje”.

„Oznacza to, że dzięki kontroli krzyżowej treści zidentyfikowane jako naruszające zasady META są pozostawiane na Facebooku i Instagramie, aby stać się bardziej wirusowymi i szkodliwymi” – powiedziała rada nadzorcza. Zalecił, aby treści o „wysokiej intensywności” początkowo oznaczone jako naruszające zasady Meta zostały usunięte lub ukryte na jej platformach do czasu dalszej weryfikacji. partnerem biznesowym lub celebrytą”.

Rada nadzorcza stwierdziła, że ​​Meta musi opracować i udostępnić przejrzyste kryteria włączenia do swojego programu testów krzyżowych, aby użytkownicy spełniający kryteria mogli ubiegać się o włączenie do programu. „Popularność użytkownika lub liczba obserwujących nie powinna być jedynym kryterium uzyskania dodatkowej ochrony” – napisano.

Zarząd stwierdził również, że konta niektórych kategorii użytkowników chronionych przez Cross-Check powinny być publicznie oznaczone, i zalecił, aby użytkownicy, których treści mają „krytyczne znaczenie dla praw człowieka”, byli traktowani priorytetowo do dalszej weryfikacji przez Meta Business Partners.

Aby zachować przejrzystość, zarząd powiedział: „META musi mierzyć, kontrolować i publikować kluczowe wskaźniki dotyczące swojego programu testów krzyżowych, aby móc stwierdzić, czy program działa skutecznie”.