ChatGPT będzie moderować treści w internecie

Z moderowaniem internetowych treści jest co najmniej kilka problemów. Po pierwsze, pracownicy firm zajmujących się moderacją narażeni są na materiały drastyczne, obrzydliwe i powodujące trwałą traumę. Po drugie, zmęczony i sfrustrowany moderator może nieprawidłowo ocenić pewne treści i przymknąć oko na post, który nigdy nie powinien pojawić się w internecie (lub przeciwnie – zablokować publikację czegoś dopuszczalnego). Wreszcie po trzecie – ludzkim pracownikom trzeba płacić (choć to akurat da się obejść – najlepiej wie o tym samo OpenAI, które zlecało moderację kenijskim pracownikom, wyzyskując ich i płacąc mniej niż 2 dolary za godzinę).

Wszystkie te kłopoty ma rozwiązać pomysł Sama Altmana, który proponuje, by to ChatGPT posłużył do moderacji internetowych treści.

Post na blogu OpenAI cytuje portal The Verge. Firma chwali się, że już teraz korzysta ze sztucznej inteligencji, by rozwijać politykę moderacji swoich własnych treści. OpenAI zaznacza, że w tym tkwi pewna istotna zaleta moderowania za pomocą AI: chatbot jest w stanie w ciągu kilku godzin zaprojektować jasny zbiór zasad odnośnie do moderacji treści, a następnie konsekwentnie się go trzymać przy podejmowaniu decyzji.

Oczywiście już teraz większość dużych firm korzysta ze sztucznej inteligencji przy usuwaniu drastycznych postów; OpenAI prawdopodobnie kieruje swoją propozycję do małych platform, które nie mają pieniędzy, by zainwestować we własne AI do moderacji. Płatny ChatGPT-4 może być dla nich dobrym narzędziem na start.

Wspomniane duże korporacje, m.in. Meta, przekonały się już jednak, że samo AI nie wystarcza do dobrego moderowania. OpenAI zdaje sobie z tego sprawę, podkreślając, że początkowe działania sztucznej inteligencji będą musiały być „dokładnie monitorowane” przez ludzkich pracowników.

Głównym celem uczynienia ChatGPT-4 moderatorem ma być jednak odciążenie ludzi przynajmniej w części zadań moderacyjnych. OpenAI chwali się, że „zredukuje to obciążenie psychiczne”; nietrudno jednak się domyślić, że wcale nie chodzi tu o troskę o pracowników. Firma liczy po prostu, że sztuczna inteligencja będzie tanim moderatorem, który w dodatku nie pozwie korporacji za wyzysk.