Automatyczne systemy rozpoznające ludzi nie jest jeszcze zbyt inteligentne i można je oszukać. Prosta sztuczka wystarcza, aby ludzie przestali być widoczni dla algorytmów identyfikujących obiekty na zdjęciach lub filmach.
Stopień inwigilacji jakiej jesteśmy poddawani każdego dnia już dawno przekroczył wizje Orwella czy innych pisarzy science-fiction. Wystarczy zebrać dane jakie pozostawiamy po sobie, korzystając z kart bankomatowych czy smartfona i różnego rodzaju portali społecznościowych, aby poznać naszą sytuację materialną, pracę czy upodobania lub poglądy polityczne.
Jedyne, co nas jeszcze chroni przed totalną inwigilacją to nasza twarz. Jeżeli jednak uda się ją przypisać do danych, które są już dostępne w elektronicznym świecie to w prosty sposób, będzie można nas odszukać i przewidzieć, co zrobimy w najbliższym czasie.
Zdradza nas nie tylko twarz, ale i sylwetka
Jak już pisaliśmy w artykule “Sposób chodzenia i kształt ciała pozwolą sztucznej inteligencji Cię rozpoznać”, chińscy naukowcy pracują nas sposobem rozpoznawania ludzi nie tylko po rysach twarzy, ale też po sylwetce oraz sposobie, w jaki się poruszamy. Na szczęście system też nie został jeszcze wdrożony.
Czy wyglądasz jak Milla Jovovich?
Zresztą okazuje się, że również stosowane już systemy do rozpoznawania twarzy można łatwo oszukać. Już w 2016 roku naukowcy z Carnegie Mellon University stworzyli okulary, dzięki którym można było podszyć się pod inną osobę.
Specjalny wzór nałożony na oprawkę sprawiał, że system rozpoznawania twarzy rozpoznawał użytkownika tych okularów jako inną osobę. Między innymi 41-letni mężczyzna został uznany przez system za aktorkę Millę Jovovich i to z pewnością wynoszącą 87,87 procent.
źródło: praca naukowa “Accessorize to a Crime: Real and Stealthy Attacks on
State-of-the-Art Face Recognition”
Czy wystarczy fotografia?
Wykonanie okularów, które mogą oszukać sztuczną inteligencję zajmuje trochę czasu. Tymczasem, mimo tego, że minęły już prawie trzy lata rozwoju systemów sztucznej inteligencji, wprowadzenie ich w błąd może być jeszcze prostsze.
Udowodnili to naukowcy z Katolickiego Uniwersytetu Lowańskiego w Belgii. Okazało się bowiem, że wystarczy sobie zawiesić na szyi duże zdjęcie przedstawiające łatwo rozpoznawalne obiekty. Najlepiej, aby zdjęcie zakrywało przynajmniej część naszej sylwetki i od tej chwili przestajemy wręcz istnieć dla systemów rozpoznających ludzi na obrazach z kamer czy na zdjęciach.
W opracowaniu przedstawiono przykłady, z których wynika, że wystarczy stosunkowo wydruk o rozmiarach ok. 35×35 cm, aby oszukać systemy rozpoznawania ludzi.
źródło: praca naukowa “Fooling automated surveillance cameras: adversarial patches to attack person detection”
Na wydruku musi być umieszczony wielobarwny, odpowiedni wzór, ale przypuszczalnie wystarczy, aby było to zdjęcie, na którym system może wyszukać kilka innych osób. W tym momencie człowiek, którego widać za tym zdjęciem, przestaje istnieć dla sztucznej inteligencji.
Użyte zdjęcie nie może być przy tym zbyt mocno przekręcone i powinno zakrywać zarys sylwetki. Jeżeli zdjęcie zostanie przekręcone lub przesunięte w bok to system zaczyna widzieć człowieka, który trzyma to zdjęcie.
Nie musimy jednak trzymać zdjęcia w rękach. Możemy je zawiesić sobie na szyi i efekt będzie ten sam. Również, gdy powiesimy zdjęcia na plecach to systemy widzące nas od tyłu przestaną nas dostrzegać.
źródło: praca naukowa “Fooling automated surveillance cameras: adversarial patches to attack person detection”
Zdjęcia nie trzeba nosić w rękach
Noszenie dość sporego zdjęcia zawieszonego na szyi czy na plecach nie jest jednak wygodne. Na szczęście według autorów tego odkrycia, możliwe będzie przygotowanie odpowiednich nadruków, które będzie można umieszczać na koszulkach lub na kurtkach.
Nosząc je podczas spacerów po prostu rozpłyniemy się w tłumie i przestaniemy być dostrzegalni dla systemów rozpoznających ludzi na filmach z kamer miejskich monitoringów. Jak się okazuje, nadal ludzkie oko i nasz zmysł wzroku są nie do pobicia przez sztuczną inteligencję, a każdy z nas może w łatwy sposób zniknąć z „oczu” systemów do wyszukiwania ludzi.