Jedna zaskakująca ciekawostka, której nie wiesz o SI.

Sztuczna Inteligencja wydaje się być wszechmocna i niezawodna. Mówi się o niej w kontekście rewolucji, autonomicznych samochodów i inteligentnych asystentów, którzy są nieomylni w swojej logice. Ufamy jej coraz bardziej. Jednak pod tą fasadą perfekcji kryje się pewna fundamentalna, wręcz komiczna, słabość – luka, która burzy obraz SI jako bytu czysto logicznego i ujawnia jej zaskakującą naiwność. Prawdziwa ciekawostka dotycząca SI nie dotyczy jej mocy, ale jej kruchości w obliczu najprostszej manipulacji danymi wejściowymi.

Zaskakujący sekret SI, o którym milczą wielkie firmy

Najbardziej strzeżoną tajemnicą w świecie deep learningu jest fakt, że nawet najbardziej zaawansowane modele klasyfikacji obrazu, trenowane na milionach danych i osiągające niemal 100% dokładności, mogą zostać oszukane w sposób, który dla ludzkiego oka jest absolutnie niewidoczny. Eksperci nazywają to zjawisko „Przykładami Kontradyktoryjnymi” (Adversarial Examples). Nie chodzi tu o włamanie się do kodu czy zmianę algorytmu, ale o dodanie do obrazu (np. zdjęcia kota) minimalnej ilości celowo obliczonego "szumu" – pojedynczych pikseli, które są tak subtelne, że żaden człowiek ich nie dostrzeże.

Dla nas obraz pozostaje ten sam: kot. Jednak dla sieci neuronowej, po wprowadzeniu tego mikroskopijnego szumu, pewność identyfikacji zmienia się diametralnie. W ułamku sekundy SI przestaje widzieć kota i z 99% pewnością uznaje, że patrzy na toster, awokado lub znak stopu. Ten sekret jest kluczowy, ponieważ podważa fundamentalne założenie, na którym opierają się wszystkie aplikacje krytyczne: że SI potrafi niezawodnie interpretować rzeczywistość wizualną. Firmy, które inwestują miliardy w samochody autonomiczne czy systemy bezpieczeństwa, są świadome tej luki, ale jej publiczne nagłaśnianie z oczywistych względów jest niepożądane.

Co gorsza, naprawienie tej luki jest niezmiernie trudne. Choć naukowcy potrafią stworzyć modele, które są odporne na jeden konkretny rodzaj ataku kontradyktoryjnego, wprowadzenie tej odporności często sprawia, że model staje się wrażliwy na inny, nieco zmodyfikowany atak. Jest to ciągła gra w kotka i myszkę, w której nawet niewielka zmiana w kontekście danych wejściowych może spowodować katastrofalny błąd w interpretacji. Ta fundamentalna niestabilność pokazuje, że SI nie "rozumie" obrazu w ludzki sposób, lecz polega wyłącznie na statystycznych korelacjach, które można łatwo zmanipulować.

Niewiarygodny sposób, w jaki SI oszukuje ludzi

W jaki sposób ta technika jest wykorzystywana do "oszukiwania" ludzi poprzez SI? Kluczem jest stworzenie sytuacji, w której my i maszyna mamy zupełnie inne percepcje tego samego obiektu. Wyobraźmy sobie, że chcemy, aby system nadzoru myślał, że dana osoba to pies. Wystarczy, że na ubraniu tej osoby znajdzie się niewielki, pozornie chaotyczny wzór, który został precyzyjnie zaprojektowany, aby aktywować w SI sygnatury statystyczne odpowiadające klasie „pies”. Człowiek widzi plamę na koszulce, ale system rozpoznawania twarzy widzi czworonoga.

Ten mechanizm jest szczególnie niebezpieczny, ponieważ może zostać przeniesiony do świata fizycznego. Badania wykazały, że wystarczy nakleić kilka małych, strategicznie rozmieszczonych naklejek na znak drogowy, aby zmienić jego znaczenie dla autonomicznego samochodu. Na przykład, znak „STOP” może zostać zinterpretowany przez SI jako znak „Ustąp pierwszeństwa” (YIELD) z wysoką pewnością, choć dla kierowcy-człowieka znak jest nadal czytelny i nienaruszony. W ten sposób SI staje się narzędziem, które może nieświadomie wprowadzać w błąd lub stwarzać zagrożenie, działając zgodnie ze swoją logiką, ale na podstawie zmanipulowanych danych.

Ta kruchość SI jest tak zaskakująca, ponieważ obnaża jej "głupotę" w kontekście ogólnego rozumienia. Podczas gdy człowiek jest w stanie odfiltrować szum i skupić się na istocie obiektu (kształt, kolor, kontekst), SI polega na mikroskopijnych, często niewidocznych dla nas cechach, które z punktu widzenia matematyki są kluczowe dla jej decyzji. To sprawia, że systemy te są nie tylko podatne na ataki, ale także trudne do debugowania – jeśli SI podejmuje dziwną decyzję, bardzo trudno jest ustalić, który z bilionów parametrów został zakłócony przez te minimalne zmiany. To właśnie ta ukryta wrażliwość jest największą ciekawostką, o której nie mówi się głośno.

Ta jedna ciekawostka ujawnia fundamentalny paradoks nowoczesnej SI: jest ona jednocześnie niewiarygodnie potężna w zakresie przetwarzania danych i zaskakująco krucha w obliczu minimalnej manipulacji wejściowej. O ile SI wykonuje zadania związane z klasyfikacją lepiej niż człowiek, o tyle jej „zrozumienie” świata pozostaje płytkie, oparte na statystyce, a nie na prawdziwej percepcji. W obliczu zagrożeń związanych z Przykładami Kontradyktoryjnymi, musimy pamiętać o tej wrażliwości, zwłaszcza gdy powierzamy algorytmom kontrolę nad naszymi samochodami, systemami finansowymi i bezpieczeństwem publicznym. Wiedza ta jest kluczowa dla budowania odporniejszej i bezpieczniejszej przyszłości opartej na technologii.