Sztuczna inteligencja zdemaskuje tekst napisany przez… sztuczną inteligencję

Sztuczna inteligencja (AI - Artificial Intelligence) wkracza w coraz więcej dziedzin życia, nie dziwi więc, że algorytmy AI potrafią już wygenerować tekst na tyle przekonujący, że przeciętny człowiek nie rozpozna, kto jest jego faktycznym „autorem". Algorytm zdolny do takiej twórczości, wykorzystujący model uczenia maszynowego, jakiś czas temu zaprezentowali naukowcy z OpenAI. Właśnie przy użyciu udostępnionego publicznie przez OpenAI kodu źródłowego zespół z Harvardu i MIT-IBM Watson AI Lab opracował swoje narzędzie GLTR - Giant Language Model Test Room. Służy ono do wykrywania tekstu, który został wygenerowany przy użyciu AI.

Nie dać się oszukać
Sztuczna inteligencja może dziś zostać wykorzystana do masowej produkcji fałszywych wiadomości, opinii, recenzji itd. Generatory tekstu AI opierają się jednak nie na rzeczywistym znaczeniu słów i zdań, ale na statystycznych wzorcach w tekście - i to właśnie wykorzystane zostało przy tworzeniu narzędzia GLTR, które może stać się bronią w walce z fake newsami czy botami w mediach społecznościowych.
Każdy tekst analizowany jest przez GLTR pod kątem prawdopodobieństwa wystąpienia słów w przewidywanym kontekście. Jeśli użyte słowo znajdzie się w pierwszej dziesiątce przewidywanych słów, zaznaczane jest tłem zielonym, w pierwszej setce - tłem żółtym, w pierwszym tysiącu - tłem czerwonym, w przeciwnym razie - fioletowym. Okazuje się, że w tekstach stworzonych przez AI znajduje się dużo koloru zielonego, czyli zawarte w nich połączenia słów są bardzo przewidywalne, podczas gdy tekst napisany ręką ludzką zawiera o wiele więcej zaskakujących połączeń, fraz i metafor.

Można sprawdzić
Naukowcy pracujący nad narzędziem przeprowadzili eksperyment, w którym poprosili studentów Harvardu o rozpoznanie tekstu wygenerowanego przez AI najpierw bez narzędzia, a następnie z jego pomocą. Samodzielne wykryli oni połowę podróbek, a kiedy skorzystali z GLTR - 72%.
Pod linkiem http://gltr.io/dist/index.html znaleźć można wersję demo GLTR, która pozwala na przećwiczenie, jak to działa.

fot. Pixabay