Dezinformacja wyborcza, broń i mowa nienawiści mogą pozostać poza nadzorem Meta – 15.01.2025 – Władza

Do listy tematów dodała tylko jedną nową kategorię, w której stwierdza, że ​​będzie nadal korzystać z zautomatyzowanych systemów w celu wykrywania ewentualnych naruszeń własnych zasad, co było jednym z wielu tematów w niedawnym komunikacie firmy dotyczącym zmian w polityce moderowania treści.

Oprócz „terroryzmu, wykorzystywania seksualnego dzieci, narkotyków, oszustw i oszustw”, wymienionych w poprzednim oświadczeniu firmy jako „wysoce poważne”, jedynym tematem dodanym do listy były treści zachęcające do samobójstwa i samookaleczenia.

Firma jednak jak dotąd nie ujawniła ani nie przekazała więcej informacji na temat tego, co uzna za naruszenia o „małej wadze”, w związku z czym raport będzie zależał od moderacji.

Tematy takie jak dezinformacja dotycząca wyborów i szczepionek, mowa nienawiści, znęcanie się i molestowanie; ograniczenia dotyczące broni i podżeganie do przemocy to tylko niektóre z tych, które mogą zostać pominięte w tym zautomatyzowanym monitorowaniu.

Przesłuchiwany przez Arkuszktóre z tych kategorii tak naprawdę nie będą już objęte funkcją automatycznego wykrywania, powiedział, że nie będzie komentował.

Chociaż zasady dotyczące każdego tematu określają, co jest dozwolone, a co nie na platformie, sposób, w jaki przeprowadzana jest moderacja – czy to proaktywnie, czy po zgłoszeniu – nadaje ton temu, ile treści zostanie usuniętych.

Eksperci, z którymi konsultowano się w raporcie, wskazują, że decyzja ta jest zarówno zmianą w działaniu firmy, która od lat inwestuje duże środki w automatyzację, jak i problemem, biorąc pod uwagę ilość treści zamieszczanych na platformach Meta (Instagram i Threads) przez cały czas .

Kwestionują także, ile pracowników firma będzie musiała analizować reklamacje bez automatyzacji.

7 stycznia założyciel firmy, Mark Zuckerberg, opublikował film zapowiadający zmiany w zasadach moderowania treści, co zostało odebrane jako ukłon w stronę prezydenta-elekta USA Donalda Trumpa. Decyzja obejmowała zakończenie programu sprawdzania faktów.

Posteriormente, Zuckerberg.

Ujawnianie wielkości zespołów moderacyjnych dla każdego języka, co obejmuje prace zlecane na zewnątrz, jest kwestią, w której firma nie zapewnia przejrzystości.

Jednym z tematów, który firma teraz wyraźniej podkreśla, a który nie powinien już opierać się na automatycznym wykrywaniu, jest mowa nienawiści. Zmieniając te zasady, Meta pozwala teraz na przykład na .

W opublikowanym przez Meta raporcie na temat jej wyników w Brazylii w okresie wyborczym w 2024 r. stwierdza się, że usunęła ponad 2,9 miliona treści, które naruszały jej zasady dotyczące znęcania się i molestowania, mowy nienawiści oraz przemocy i podżegania.

Ujawnił także, że w przypadku zastraszania ponad 95% z nich zostało zidentyfikowanych przez samą firmę i usuniętych przed złożeniem jakiegokolwiek zgłoszenia. W pozostałych odsetek ten przekraczał 99%.

Firma nie precyzuje, czy usunęła treści w oparciu o swoją politykę dotyczącą dezinformacji wyborczej. Na podstawie weryfikacji faktów przeprowadzonej z partnerami kolejne 8,2 mln treści oznaczono jako fałszywe.

Andressa Michelotti, doktorantka na UFMG (Uniwersytet Federalny w Minas Gerais) i członkini Governing the Digital Society na Uniwersytecie w Utrechcie w Holandii, podkreśla, że ​​zmiana przenosi obowiązek zidentyfikowania potencjalnego naruszenia na użytkownik.

Dla niej, która pracowała już w branży technologicznej, ważnym pytaniem jest, jak takie podejście może wpłynąć na obieg treści na rynkach nieanglojęzycznych. „Czy zamierzają zastosować ręczną weryfikację wszystkich języków? Historycznie nie [adotavam]. W powietrzu wisi wiele pytań” – mówi.

Andressa kwestionuje także to, co w przypadku Brazylii można by uznać za terroryzm i podkreśla, że ​​w sposobie, w jaki firma to ujawniła, otwartą kwestią pozostawało np. to, czy grupy neonazistowskie będą zaliczane do naruszeń z automatycznym wykrywaniem.

W swojej odpowiedzi dla (Biura Prokuratora Generalnego) przedstawionej w poniedziałek (13) Meta wspomina jedynie o terroryzmie, czyli temacie będącym częścią jej polityki wobec „niebezpiecznych organizacji i osób” i który obejmuje inne aspekty, takie jak „nienawistne ideologie „, który obejmuje nazizm, białą supremację i biały nacjonalizm.

Clarice Tavares, koordynator badań w InternetLab ocenia, że ​​choć automatyzacja moderacji rzeczywiście wiąże się z błędami, gdyż nie jest w stanie zrozumieć pełnego kontekstu, to opcja wyłączenia jej z użytku dla części polityk nie jest właściwą ścieżką.

Według niej należy pomyśleć o tym, jak to ulepszyć, a jednocześnie zainwestować w solidne systemy przeglądu ręcznego.

„Brak proaktywnego wykrywania za pomocą zautomatyzowanych narzędzi jest naprawdę wyzwaniem” – mówi. „Mówimy o milionach treści w wielu językach”.

Źródła zasłyszane przez Arkusz objęte zastrzeżeniem i które już pracowały na platformie, podkreślają, że oprócz braku przejrzystości dla opinii publicznej w zakresie zakresu zapowiadanych zmian możliwe jest, że własne zespoły firmy nie mają jeszcze tego dobrze zdefiniowanego, biorąc pod uwagę, że nic nie wskazuje na to, że temat przeszedł wewnętrzną konstrukcję przed ogłoszeniem.

Zasady dotyczące metatreści
Określa, co jest dozwolone, a co nie dozwolone na platformie w odniesieniu do każdego tematu

Proces moderacji
Do tego czasu Meta korzystała z automatycznych systemów do śledzenia naruszeń wszystkich zasad i przeprowadzała proaktywną moderację

Co się zmienia
Firma skoncentruje się teraz na wykorzystaniu tych systemów wyłącznie na wykrywaniu naruszeń o „wysokiej wadze”. Naruszenia o „małej wadze” będą zależeć od zgłoszeń użytkowników

Co nadal będzie zautomatyzowane
Do tej pory Meta ujawniła, że ​​terroryzm, wykorzystywanie seksualne dzieci, narkotyki, oszustwa i oszustwa, a także zachęcanie do samobójstw i samookaleczania znajdują się na liście poważnych naruszeń

Co będzie zależeć od reklamacji
Meta nie ujawniła jeszcze, co uważa za „niską dotkliwość”