OpenAI pracuje nad technologią wykrywającą obrazy wygenerowane przez AI
Na obecnym etapie narzędzie świetnie sobie radzi z grafikami stworzonymi przez DALL-E 3, z innymi modelami – raczej średnio.
Jak przekazało za sprawą wpisu na firmowym blogu przedsiębiorstwo kierowane przez Sama Altmana, prace nad narzędziami umożliwiającymi rozpoznawanie treści wygenerowanych przez sztuczną inteligencję trwają w najlepsze, aczkolwiek do osiągnięcia zadowalającej skuteczności jeszcze daleka droga.
Człowiek czy AI?
OpenAI pochwaliło się, że jego najnowsza technologia jest w stanie rozpoznać grafiki wyplute przez DALL-E 3 z niemal 98% skuteczności – i to nawet wtedy, kiedy obrazy zostały przycięte, skompresowane lub zostało zmienione ich nasycenie. Mimo to narzędzie odpowiedzialne za wychwytanie materiałów stworzonych przez sztuczną inteligencję kiepsko radzi sobie z „twórczością” innych modeli, takich jak m.in. Midjourney, Bing lub Gemini. W jej przypadku szansa na to, że zostanie oznaczona jako dzieło AI, oscyluje w przedziale od 5 do 10%.
Jak zauważyli badacze z OpenAI, świat potrzebuje uniwersalnych sposobów udostępniania informacji odnośnie do tego, w jaki sposób powstały dane treści cyfrowe i skąd one pochodzą – niezależnie od tego, czy są one dziełem człowieka, czy sztucznej inteligencji.
Ludzie nadal mogą tworzyć zwodnicze treści bez tych informacji (lub mogą je usunąć), ale nie mogą łatwo podrobić lub zmienić tych informacji, co czyni je ważnym zasobem do budowania zaufania. Wraz ze wzrostem popularności standardu, informacje te mogą towarzyszyć treściom przez cały cykl ich udostępniania, modyfikowania i ponownego wykorzystywania. Wierzymy, że z czasem tego rodzaju metadane staną się czymś, czego ludzie będą oczekiwać, wypełniając kluczową lukę w praktykach uwierzytelniania treści cyfrowych.
Prócz tego wspomniane przedsiębiorstwo pracuje obecnie nad stworzeniem odpornych na manipulację znaków wodnych, które miałyby posłużyć do oznaczania treści cyfrowych pokroju ścieżek audio niewidocznym (a raczej niesłyszalnym dla człowieka) sygnałem. Sygnały takie miałyby być niezwykle trudne do usunięcia.
OpenAI zwróciło także uwagę na fakt, że celem zapewnienia maksymalnej przejrzystości co do genezy krążących po sieci materiałów niezbędna będzie współpraca pomiędzy największymi dostawcami treści. Odpowiedzialne za to platformy powinny ułatwić przechowywanie metadanych, co pozwoli użytkownikom osobiście zapoznać się ze źródłem grafiki lub audio.
Czytaj dalej
ChatGPT uzyska dostęp do postów z Reddita
Google I/O 2024: AI, AI i jeszcze więcej AI
ChatGPT stanie się jeszcze szybszy, i to dla wszystkich użytkowników
Nowa AI Google jest w stanie przewidzieć strukturę białek i molekuł
Swoją przygodę z grami komputerowymi rozpoczął od Herkulesa oraz Jazz Jackrabbit 2, tydzień później zagrywał się już w Diablo II i Morrowinda. Pasjonat tabelek ze statystykami oraz nieliniowych wątków fabularnych. Na co dzień zajmuje się projektowaniem stron internetowych. Nie wzgardzi dobrą lekturą ani kebabem.