Ansiktsgjenkjennelse:
Fryktens øyne
I byene Nice, London eller Beijing, kan du glemme følelsen av å være anonym. Tusenvis av små kameraer kjenner deg igjen, kan sjekke pulsen din, om du har feber, pønsker på ugagn – eller ligner på en som gjør det.
Et av de heftigste virkemidlene kinesiske myndigheter rår over i kampen mot korona-viruset, er kameraer. Hundretusenvis av kameraer. De fôrer datamaskiner med bilder som analyseres med kunstig intelligens. Datamaskinene finner ut om folk har feber.
Kina er fremst på kloden innenfor «digital identitet». Mange steder kan innbyggerne ta penger ut av banken, betale på restauranter og sjekke inn på flyplasser bare ved å vise fjeset. Med hver nye app kreves et nytt bilde som havner i databasene, som slik bygges opp dag for dag. Ved hjelp av disse kan bilder fra videokameraene som sitter på lyktestolper, bygninger eller taket på busser brukes til å identifisere hvem som går hvor og hvilke personer de møter.
Slik kan smittevernmyndighetene spore opp folk som har vært i nærheten av smittede, på et tog for eksempel. Folk som har vært i områder med virus, blir sporet opp på samme måte. Og kinesere som har gitt blaffen i portforbud og vært ute en liten tur, blir senere hentet hjemme og arrestert.
Islamister og fascister
Men det er ikke smittebegrensning som er påskuddet for etablering av verdens kanskje mest sofistikerte og omfattende overvåkningssystem. Det er frykt for langt større bråkmakere enn virus.
London er den byen i verden − etter Beijing − som har flest overvåkningskameraer, ifølge Financial Times. Truslene kommer fra islamister og fascister, IRA og geriljagrupper knyttet til krigene i Irak og Afghanistan, samt hooligans, folk som kommer på fotballkamper for å lage bråk. Der har det lenge vært brukt systemer som kan identifisere 500 000 ansikter i sekundet. Ligger du i basen, er sjansen stor for at du blir stoppet på gaten.
I januar ble det klart at politiet installerer ansiktsgjenkjennelse i forlengelsen av Londons videokameraer.
Forklaringen er at det er nødvendig for å stoppe kriminelle og kjente pedofile. Engelskmenn har vært vant til overvåkning lenge. De aksepterer overvåkningen av 420 000 samordnede kameraer med et skuldertrekk. Turister likeså.
Også Frankrike og Tyskland kommer luntende etter. Der overvåkes allerede jernbanestasjoner og trafikknutepunkter på jakt etter uromomenter og terrorister.
Det store spørsmålet er om du aldri har vært tryggere − eller om du aldri har levd farligere.
Dobbel bruk
Mye kommer an på hvordan ansiktet ditt er skapt fra naturens side. Og hvordan datamaskiner leser ansiktstrekkene dine og andre kjennetegn ved kroppen din. Og om du ligner på én eller flere som noen tror har skumle planer og onde hensikter.
− Ved hjelp av kunstig intelligens lages en matematisk reproduksjon av ditt fjes. Det handler om avstanden mellom øynene, vinkelen mellom nese og munn, pluss høyde fra panne til hake, sier Raphael de Cormis, utviklingssjef i Thales, et av verdens største selskaper innen teknologi til fly, forsvar og romfart.
«Jeg elsker biometri», blinker det på veggene i demo-hallen bak Cormis. Kunstig intelligens (AI) er en fellesnevner og nøkkelen til forretningsområdet «Digital identitet og sikkerhet». Ansiktsgjenkjennelse er det som revolusjonerer bransjen akkurat nå.
− Teknologien brukes på to måter. Den ene er å bekrefte at du er den du utgir deg for å være. Den andre er å identifisere hvert individ i større menneskegrupper ved å matche dem mot en database. Faren er ikke teknologien, men hvordan den blir brukt, sier Cormis.
Han forteller at teknologien for ansiktsgjenkjennelse har eksistert i lang tid.
– Men det er først de siste fem årene bruken har økt, hovedsakelig ved å bruke fjeset til å låse opp mobilen.
Utfordringen for overvåkningssystemene er at de må prosessere innkomne bilder og koble mot databasene i et høyt tempo. Det gir rom for feil som kan bli nokså ubehagelige og kanskje skjebnesvangre.
Store penger i frykt
Frankrike er blant landene i Europa som har vært hardest rammet av terror i moderne tid. I januar 2015 ble satiremagasinet Charlie Hebdo og et supermarked i Paris angrepet av islamske terrorister. 17 mennesker døde.
Ti måneder senere ble 130 mennesker skutt og drept i et koordinert terrorangrep i Paris. 14. juli 2016 – på selveste nasjonaldagen – klatret en ekstremist opp i en lastebil og dundret inn i en feststemt folkemengde i Nice. 87 liv gikk tapt, 458 mennesker ble skadet.
I dag er Nice – med 350 000 fastboende og 12 millioner ankomster på flyplassen – den mest overvåkede byen i landet. 2666 videokameraer var montert i gatene ved siste opptelling, og nå prøver man ut frivillig ansiktsgjenkjenning både på byens karneval og en videregående skole.
− Markedet er i kraftig vekst, smiler Cormis.
Han viser frem en uavhengig rapport som viser at markedet for ansiktsgjenkjennelse ventes å bli fordoblet over fem år – fra 32 milliarder kroner i 2019 til 70 milliarder kroner i 2024. Ikke rart det er høy stemning i Thales-leieren.
Leser følelser
Det er mye som holdes hemmelig når Thales åpner dørene for å gi et lite innblikk i deres teknologi. Men en sikkerhetssentral i Mexico City viser de gjerne frem. Der trengs det sterk lut for å bekjempe vold og kriminalitet, det vet alle. Sikkerhetssentralen er et opplegg Thales prøver å selge, et alternativ til nødhjelpsnumre som 112 og 911.
På skjermen kan man se et fotballstadion, med flagg der hvor det er størst sjanse for at det kan skje noe. Dermed kan politiet patruljere akkurat der. I tillegg til ansiktsgjenkjennelse i overvåkningssystemet, kan publikum selv sende inn bilder og varsle politi og ambulanser. Systemet kobles også opp mot sosiale medier som Facebook. Alt som blir postet, blir fanget opp og satt i system.
Faren er ikke teknologien, men hvordan den blir brukt.
− Man kan se hva slags stemning som er på et event, sier selgeren.
Med kunstig intelligens kan man lese følelser i et ansikt. Muskler i pannen og rundt øyne og munn vil jobbe på forskjellige måter avhengig av din sinnsstemning. Sint, trist, redd eller glad. Datamaskiner lærer å forstå hvordan du har det. Men er denne teknologien koblet inn i Thales ansiktsgjenkjennelse?
− Det kan bli det, sier utviklingssjef Cormis.
– Men vi konsentrerer oss om å identifisere folk.
Kardiologisk signatur
Sensorer som registrerer hjerterytme, derimot, er del av deres teknologi. En selger i demo-hallen peker ivrig på en skjerm hvor man ser hvordan hjertet dunker i brystet på en dame som blir filmet. Alle har sin unike hjerterytme, på linje med iris i øyet eller fingeravtrykket.
Nøyaktig hvordan det gjøres vil ikke Cormis ut med.
− Det handler om å beskytte vår patent og teknologi, sier han.
I fjor ble det kjent at Pentagon har utviklet en laser som kan plukke opp din «kardiologiske signatur» på 200 meters avstand. Teknikken kalles «Jetson», og måler vibrasjoner i kroppen som skyldes et bankende hjerte. Det betyr at hvis pulsen din stiger når du går forbi en politimann, kan systemet anta at han gjør deg nervøs, at du har noe å skjule. I enkelte samfunn er det nok til at du må inn til avhør.
− Friheten truet
Ansiktsgjenkjennelse kan være et nyttig verktøy for å styrke sikkerheten i sårbare samfunn. Samtidig gir det uante muligheter for selskaper og myndigheter til å spore bevegelsene til vanlige mennesker.
Kritikerne mener at det er en felle: Folk mister sin frihet, de blir redde for å gjøre noe galt. I samme slengen undergraver man demokratiet. For den som kontrollerer kameraet kontrollerer opposisjonen.
Christian Estrosi, borgermesteren i Nice, omtaler kritikerne som «støvete», de tilhører et «annet århundre». Han tilhører høyresiden av fransk politikk, og her er det ideologiske forskjeller. En undersøkelse fra 2011 viser at 100 prosent av franske byer med blått styre har videoovervåkning, mens bare 60 prosent av byene med rødt styre har det samme.
Akkurat nå innføres ansiktsgjenkjenning i systemet Alicem, som tilsvarer det norske Altinn. Alle som skal legge inn opplysninger om skatt eller trygd må samtidig legge inn et bilde av seg selv. Er det gjennom Alicem myndighetene kan identifisere hvem som er hvem?
Data-bom
Avisa The Guardian avslørte allerede i 2009 at det britiske politiet hadde arkivert bilder av fredelige demonstranter og politiske debattanter med detaljerte opplysninger om deres privatliv. I etterkant var politiet nødt til å fjerne 40 prosent av bildene, men det kommer fremdeles rapporter om at både overvåkning og registrering fortsetter med full kraft.
Forskere ved universitetet i Essex fant ut at London-politiets japanskproduserte system for ansiktsgjenkjenning tok feil i 80 prosent av tilfellene, og at uskyldige ble stoppet og kontrollert uten at det var noen grunn til det.
I Kina er overvåkningen og bruken av personbilder så omfattende at myndighetenes argumenter om sikkerhet stadig ofte møtes av påstander om misbruk av makt.
Ifølge The Economist finnes det i dag 170 millioner opptaksenheter i Kina, men tallet skal øke til 500 millioner. De kommuniserer med databaser i «real time». Alarmen går når det er noe å se opp for. Da varsler folkene på sentralen sikkerhetsstyrkene, som så kan gripe inn. I tillegg er deler av politiet utstyrt med briller som forteller dem om et menneske er ettersøkt eller en «opprører» − som alle i befolkningsgruppen uigurer. En million av den muslimske minoriteten – som utgjør åtte millioner – skal være fengslet på ubestemt tid.
Hemmelighold
− Er det noen land Thales ikke selger teknologien til?
Det vil ikke utviklingssjef Cormis svare på. Han viser bare til normer og regler for personvern i EU, som regulerer hvordan man kan oppbevare og behandle personlige opplysninger. Passfoto og andre bilder er del av dette, siden det er grunnlaget for ansiktsgjenkjenning.
− Men det finnes land utenfor EU hvor man ikke har disse reglene. Selger dere teknologien der?
Igjen får vi ikke noe klart svar, bare en henvisning til Thales’ signatur i UN Global Compact, som er FNs initiativ for bærekraftig næringsliv. Bedrifter fra 161 land, der iblant Kina, har skrevet under.
Med dette vil Thales fortelle at de står for ansvarlig bruk av teknologi og følger nøye med på hvordan den blir brukt. Vi Menn får dog et konkret svar når vi spør hvordan systemet kan kjenne igjen et ansikt:
Cormis vil ikke kommenterer kunders bruk av teknologi, men sier:
– Det er ikke lov å bygge og krysse databaser ved å koble biometriske data fra en app.
− Hva med Instagram og Facebook, kan man bruke deres data?
− Nei, svarer han kontant.
Men mulighetene er der.
Fritt frem i Norge
Man trenger ikke tillatelse for å sette opp et overvåkningskamera i Norge.
Og ingen har kontroll på hvem, eller hvor mange som har gjort det.
I 2008 gjorde noen studenter et forsøk på å telle overvåkningskameraer i Oslo. De fordelte hovedstaden mellom seg og fant rundt 1000 kameraer. Deres konklusjon var at det er nesten
umulig å bevege seg i Oslo sentrum uten å bli overvåket. 12 år
senere har Bjørn-Erik Thon, direktør for Datatilsynet, ingen oversikt over graden av overvåkning i Oslo og resten av landet:
− Ingen har oversikt over det, sier han.
− Tidligere var det meldeplikt når noen satte opp et videokamera, men det ble avviklet for 1,5 år siden.
Det er ikke lett å finne rapporter fra forsøk på å kartlegge omfanget av overvåkning i det offentlige rom i Norge.
− De aller fleste kameraer er satt opp på T-baner eller av folk som driver bensinstasjoner og kjøpesentre, for eksempel, sier Thon.
− Politiet har egen overvåkning i de største byene som Oslo, Bergen og Hamar. Politiet vurderer selv hva som er best av å patruljere gatene og snakke med folk, eller å filme dem, sier Thon.
Datatilsynet gjennomfører tilsyn fra tid til annen. Thon viser til et eksempel fra april 2019, hvor Datatilsynet hadde registrert at en del skoler overvåket elevene med kamera. Da sendte de brev og ba om begrunnelse på hvorfor det var nødvendig; barn har også krav på et privatliv. Videre behandler Datatilsynet klager fra folk som mener seg overvåket.
− Hvilken holdning har dere til ansiktsgjenkjennelse?
− Vi hadde nylig en personverndag hvor ansiktsgjenkjenning var et tema, men vi ser ikke mye av det. Man kan tenke seg scenarioer hvor alle ligger i en database, men Norge og EU viser forsiktighet, sier Thon.
− I dine øyne, hva er problemet?
− Det er heftig overvåkning som griper dypt inn i menneskers liv.
− Tror du for eksempel PST kan bruke ansiktsgjenkjenning?
− PST skal ha et rom for å gjøre jobben sin, men her er det regler i straffeprosessloven. Overvåkning av befolkningen må være lovhjemlet. Det betyr at Stortinget må gjennom en demokratisk behandling før man kan få en lovendring. Mange vil ha en mening. Vi er skeptiske. Alle har rett til å bevege seg fritt uten at noen følger med, sier Bjørn Erik Thon.
Artikkelen ble opprinnelig publisert i Vi Menn nr 13 2020
Denne saken ble første gang publisert 16/03 2020, og sist oppdatert 16/03 2020.
