Cap_able: Moda nas čuva od
biometrijskog nadzora

Sreda, 15. februara 2023.

Cap_able je milanski startap koji je za kratko vreme postao svetska vest. Na prvom ikada eventu u Milanu 27. jula prošle godine predstavili su kolekciju koja može da zbuni kamere za biometrijski nadzor. Odeće sa printom biće naš novi oklop. Ali nego što odgovorimo na najvažnije pitanje:

Može li moda zaštititi našu privatnost?

Hajde da se podsetimo zašto uopšte govorimo o privatnosti u javnom prostoru? Zar to ne bi trebalo da se podrazumeva? Krenućemo od početka…

cap_able je italijanski modni brend nastao da ljude zaštiti od biometrijskog nadzora

Sećate li se 1000 kamera?

Ne tako davno, u novembru 2020. godine SHARE fondacija je u Beogradu pokrenula inicijativu Hiljade kamera za zabranu masovnog biometrijskog nadzora u javnim prostorima. Šira kampanja na nivou cele Evrope, pokrenuta u koaliciji sa Evropskom mrežom za digitalna prava (EDRi) i više evropskih i svetskih organizacija. Peticiju „Ne snimaj mi lice“ protiv neovlašćenog nadzora, potpisalo je preko 14000 ljudi.

U čemu je problem?

Uvek su sigurnost i privatnost sa dve suprotstavljene strane. Očuvanje sigurnosti je i razlog zašto se postavljaju sigurnosne kamere, ali njima se značajno ugrožava privatnost svih. Snimanjem svih neprekidno, pretpostavlja se da su svi građani i građanke potencijalni kriminalci, što nije baš tačno. Širom Evrope policija, lokalne vlasti ali i privatne kompanije manje više tajno uvode različite mere koje prate i analiziraju lica i tela ljudi. Time, postajemo digitalni objekti, a naša prava i slobode u javnom prostoru bivaju ograničeni bez v̶a̶l̶j̶a̶n̶o̶g̶ ikakvog razloga.

Prema podacima SHARE fondacije, najmanje 15 evropskih država isprobalo je tehnologije biometrijskog nadzora, kao što je prepoznavanje lica u javnom prostoru. Sa druge strane u SAD, pet velikih gradova je zabranilo upotrebu tehnologije za prepoznavanje lica. Tokom pandemije Covid-19, mnoge države su uvele snimanje i praćenje stanovništva, dodatne identifikacije kako bi se pratio tok epidemije. Cilj je bio da se svakome pravovremeno javi ukoliko je bio izložen virusu. Trebalo je da se podaci čuvaju vrlo ograničen period. Pogodićete, to se nije desilo. U čak dve Australijske države vodili su se procesi protiv policije za zabranu korišćenja podataka prikupljenih za vreme pandemije – u bilo koje druge svrhe. Ko želi da sazna više o tome, može pročitati priče iz celog sveta.

A kod nas?

Kamere koje mogu da prepoznaju lica postavljene su na ulice Beograda u toku 2020. godine bez učešća javnosti. Nismo znali nikakve detalje o sistemu koji se implementira niti za šta će se koristiti. Tek je uz akciju građana popisano više od 1000 kamera na skoro 500 lokacija u Beogradu. U 2022. godini usledio je Nacrt zakona o unutrašnjim poslovima. Nacrt je povučen je iz procedure u ponedeljak, 26. decembra, nakon oštrog protivljenja javnosti. U oblasti digitalnog nadzora, stručna javnost se suprotstavila masovnoj i neselektivnoj obradi biometrijskih podataka građana kroz sistem pametnog video-nadzora. Svakako, važno je pratiti šta će se dalje dešavati.

Kako je nastao Cap_able?

Kao što smo već rekli, problem zaštite privatnosti od intruzivnih tehnologija za nadzor je globalan. Rachel Didiero je modna i industrijska dizajnerka, školovana u Milanu, New Yorku i Tel Avivu. U toku studija na njujorškom Fashion Institute of Technology, javila se ideja da moda i hi-tech mogu biti značajni u zaštiti privatnosti i ljudskih prava. Po dolasku u Milano, započela je istraživanje tekstila i logike machine learninga, kao i studije različitih ljudskih tela. Rezultat koji je odjeknuo u celom svetu je the Manifesto Collection, novostvorenog brenda Cap_able.

Kako nam Cap_able može pomoći?

Materijali u okviru Manifesto Collection, su specijalne tkanine dizajnirane da utiču na tok učenja u softverima za prepoznavanje lica. Nastale su uz pomoć AI (Artificial Intelligence) i ekskluzivni su patent autorke, uz podršku Politecnico di Milano. Kada su u septembru pokrenuli kickstarter kampanju, cilj su dostigli za samo nekoliko sati. Danas preorder na sajtu funkcioniše kao jedan od važnih načina finansiranja – što samo potvrđuje važnost zajednice koja deli iste brige.

Princip je jednostavan, AI sistemi za prepoznavanje lica (FRT) u real-time kao što je YOLO, rade tako što lice prepoznaju i u kretanju. Cap_able specijalno dizajnirane tkanine sistemu uz lice „predlažu“ i oblike vrlo slične realnim, to su zebre, psi, žirafe, drveće. U šumi živuljki koje su na dezenima Manifesto capsule kolekcije,smanjuju verovatnoću prepoznavanja stvarne osobe.

Važno je napomenuti da ovaj način zbunjivanja FRT softvera ne ugrožava javnu bezbednost budući da ni na koji način ne ometa detektore za metal i sigurnosne kamere. Manifesto kolekcija nije svemogući plašt za nevidljivost, već inteligentan način da se procentualna sigurnost FRT softvera dovede na ravnopravniji nivo. Poigravanje sa verovatnoćom još dugo će biti tema u nauci, budući da su programska rešenja i danas nesavršena, ali nažalost na štetu marginalizovanih društvenih grupa.

I mašine diskriminišu, zar ne?

Pitanje tehnologije za prepoznavanje lica, Face Recognition Technology – FRT, pokreće mnoga savremena pitanja diskriminacije. Da, naše pravo na privatnost je ugroženo, ali diskriminacija se odvija i na drugim frontovima. Machine Learning protokoli nisu bezgrešni, ali je vrlo indikativno da greše baš reprodukujući nejednakosti u društvu. Odavno je dokazano da je rasa konstrukt a rod spektar, ali algoritmi prave greške tako da sprovode rasnu i rodnu diskriminaciju.

Šta to znači?

Nedavna istraživanja na MIT i na Harvardu, pokazala su da software za prepoznavanje lica ima najveću tačnost u identifikovanju belih muškaraca. Odnosno, moguće greške u svim ostalim grupama stanovništva su veće. Verovatnoća da će software pomešati dve afroamerikanke je veća. A budući da se ovi programi koriste najčešće u policijskom nadzoru ili na graničnim kontrolama – to znači da će nedužne osobe biti predmet istrage samo zato što imaju „drugačiji“ rod ili boju kože. Izbeglice sa Bliskog istoka se već suočavaju sa diskriminacijom u odnosu na izbeglice iz Ukrajine, zamislite koliko će korišćenje tehnologije ove vrste diskriminacije pojačati. Da li smo spremne da idemo na dodatna ispitivanja zato što imamo „egzotičnu“ lepotu?

Illustration from: Racial Discrimination in Face Recognition Technology by Alex Najibi, harvard.edu

Budućnost je u etičnoj modi

Danas u modnom svetu više nije dovoljno biti samo kreativan. Problemi koje imamo, preplavljuju nas i često istovremeno težimo da nosimo etički proizvedene komade, dizajnirane od ljudi koji dobro poznaju izazove života u savremenom svetu. Moda je uvek bila i prostor slobode i borbe protiv društvenih ograničenja. Setimo se protesta protiv nuklearnih proba na ostrvu Bikini, spaljivanja brushaltera, borbe protiv epidemije AIDS i mini suknje koja je prokrčila put ženama u javnosti. Danas je da bismo očuvali slobodu, moramo da razumemo tehnologiju i ograničenja koja nisu zidovi i zaključani stanovi.

Dok techno-skeptici govore o mladima koji provode vreme zatvoreni u kući, ponovo se vodi borba za bezbedno prisustvo u javnom prostoru. Nije slučajno da se dizajnerke i dizajneri sve češće dolaze iz oblasti nauke i tehnologije. Cap_able je samo jedan u nizu rešenja za narastajući problem zloupotrebe tehnologije prepoznavanja lica. Osim novih tehnologija, današnjica nam donosi dizajnere koji su svesni ekoloških pretnji, duboko osećaju nejednakost i nepravdu u svetu. Gender neutral moda, spin-off serije velikih brendova, inovativni materijali ili NFT moda su samo neke od tema koje će tek postati važne. Journal će u narednom periodu predstaviti vredne inicijative koje mogu biti inspiracija novoj generaciji dizajnera u regionu.