Co w automacie siedzi?

Amsterdam i Helsinki są pierwszymi europejskimi metropoliami, które uruchomiły rejestry sztucznej inteligencji (SI). Mają one pozwolić mieszkańcom zapoznać się ze sposobami, w jakie władze miejskie miast wykorzystują algorytmy do zarządzania infrastrukturą publiczną.

Żeby wszystko było jasne

Algorytmy wykorzystywane w systemach SI z jednej strony potrafią przyczynić się do usprawnienia ruchu ulicznego albo eliminowania zagrożeń w przestrzeni publicznej, ale z drugiej mogą utrudnić życie obywatelom. Niejednokrotnie zdarzało się, że systemy rozpoznawania twarzy uznawały za potencjalnych przestępców lub terrorystów osoby, których wygląd lub ubiór odbiegały od przeciętnego.

Amsterdam launches an "Algorithm Register". It contains information on the algorithms used by the municipality, their input data, and strategies for human oversight. Seems like a good effort to improve algorithmic accountability (1/2) https://t.co/43yceYySxR

— Daan Kolkman (@jeu1987) September 28, 2020

Rejestry uruchomione w Amsterdamie i Helsinkach zawierają listy zbiorów danych używanych do trenowania modelu sztucznej inteligencji oraz opisy sposobów wykorzystywania algorytmów i zasad używania opracowanych prognoz przez ludzi. Przedstawiane są również metody oceniania algorytmów pod kątem błędów lub stwarzanych przez nie zagrożeń.

Obywatele mają ponadto możliwość przekazywania informacji zwrotnych na temat algorytmów używanych przez władze lokalne.

Celem uruchomienia rejestrów jest zwiększenie zaufania do automatycznych mechanizmów decyzyjnych. Z tego m.in. powodu Finlandia już w ubiegłym roku przygotowała wykłady online poświęcone zagadnieniom SI.

fot. Gerd Altmann – Pixabay