TRYGHED PÅ DIT GLATTE ANSIGT

Posted by

Når ansigter omsættes til tal og data kan ansigtsgenkendelsesteknologi meget mere end bare at genkende ansigter.

    Ansigtsgenkendelsesteknologi kan udpege en kriminel inden forbryderen er dømt. Det betyder, at data kan forhindre en forbrydelse ved at pågribe og dømme forbryderen allerede inden forbrydelsen er begået. Den måde at bruge data på, kalder jeg cyberfrenologi.

    Cyberfrenologi indeholder en ambition om at beherske fremtiden. Det prækognitive element i den måde vi bruger data på, er motiveret af et urealistisk politisk krav.

    Kravet fra vore folkevalgte er, at ordensmagten skal forhindre kriminalitet. Den politiske prioritering kræver en omstilling, hvor ordenshåndhævelse betyder øgede ressourcer til datadrevet efterretningsmæssig overvågning.

    Regeringens nye tryghedspakke antyder, at omstillingen allerede har fundet sted. Privatliv er byttet til datadrevet tryghed.

I. ‘LILLE SPEJL PÅ VÆGGEN DÉR’

    Digital ansigtsgenkendelse er en noget langhåret betegnelse for en teknologi, der kan genkende ansigter. Det lyder simpelt og uskyldigt. Teknologien forvandler ansigter til tal og data. Simsalabim.

    Men når ansigter omsættes til tal og data kan ansigts-genkendelsesteknologi meget mere end bare at genkende ansigter.

    Siden tidernes morgen har vi accepteret, at skønhed afhænger af øjnene, der ser. Den tid er forbi. Når teknologi omdanner ansigter til data og tal kan algoritmer bestemme, hvem der er ‘den smukkeste i landet her’ – og hvem der er ikke er. Vi kan bare spørge tallene i troldspejlet. Så spilder vi ikke tid på at diskutere det. Det kaldes effektivitet. Men data om dit ansigt kan meget mere end at afgøre, om du er smuk eller grim.

II. FRENOLOGI

    Siden antikken har man ment, at ansigtstræk afspejler unikke personlige karaktertræk. En pseudovidenskabelig tro på, at der er en sammenhæng mellem sjæl og legeme. Den trosretning kaldes frenologi.

    Frenologi er skabt af den tysk-østrigske læge Franz Joseph Gall (1758-1828) og bygger på den påstand, at forskellige organer i hjernen repræsenter forskellige egenskaber, og at disse egenskaber kan måles udenpå kraniet. Gall mente, at han havde opfundet en metode, hvormed han kunne måle personlighedstræk,  karakteregenskaber, intelligens og psyke ved at undersøge kraniets ydre form. Når digital ansigtsgenkendelse omsætter ansigter til tal, bliver det muligt at måle en sammenhæng mellem personlighed og udseende.

Phrenological Chart of Faculties

    Ansigtsgenkendelsesteknologien kan altså ikke kun genkende dig eller bestemme, om du er smuk eller grim. Data kan også afgøre om du har en god eller slet karakter. En algoritme kan på dit glatte ansigt bestemme, om du er et godt eller et dårligt menneske.

    Når tal fra ansigtsgenkendelse samkøres i en korrelation med andre tal, kan data bruges til at bestemme om du er god eller styg; om du er ubrugelig eller værd at satse på; om du er syg eller rask; om du er kreditværdig eller en risiko; om du er privilegeret eller udsat. I yderste konsekvens kan data bruges til at bestemme om du kan få adgang eller skal sættes udenfor. Den måde at bruge data på, kalder jeg cyberfrenologi.

III. CYBERFRENOLOGI

    Cyberfrenologi er frenologi i en digital forklædning. Til trods for den fordomsfulde og racistiske konceptuelle arv er cyberfrenologi udtryk for en ny data-drevet måde at betragte verden på. Vi sætter tal på alt. Selv ansigter. Tal lyver ikke. Det kan de ikke. At lyve er en menneskelig egenskab. Til gengæld fortæller tal ikke altid hele sandheden. Alligevel er mange beslutninger baseret på tillid til tal. Troen på data omsætter kvalificerede gæt, skønsmæssige vurderinger, skud fra hoften og slag på tasken til evige endegyldige sandheder. 

    Det cyberfrenologiske paradigme rykker ved vores kognitive bias – flytter ved vores holdninger og meninger om hinanden.

Kinesisk politi med den nye avancerede solbrille med indbygget ansigtsgenkendelse. Foto: – / Ritzau Scanpix

    Cyberfrenologi er som at betragte andre gennem et par briller, hvor du ikke ser personen, men ser en fortolkning af de data, som er tilknyttet den person. Ansigtsgenkendelse kan derfor ikke bare genkende ansigter, men kan sætte ansigt på det datasæt, der er personhenførbart præcist til dig. Ansigtsgenkendelse kan altså genkende dig på en måde, som du ikke selv kan genkende.

IV. DEN FØDTE FORBRYDER

    Med afsæt i frenologiens principper påstod ‘kriminologiens fader’, Cesare Lombroso (1835-1909), at kriminel adfærd var arvelig og medfødt. ‘Den fødte forbryder’ kunne identificeres gennem studier og målinger af fysiske træk og Lombroso udførte en række antropometriske studier med fokus på måling af kranier.

Cesare Lombroso (1835-1909)

    Lombrosos antropometriske profilering af kriminelle skulle underbygge den påstand, at det er muligt ud fra målinger af den menneskelige fysik, at identificere personer med kriminelle tilbøjeligheder. Fra et kriminologisk synspunkt er Lombrosos idé om ‘den fødte forbryder’ blevet afvist som  pseudovidenskabeligt sludder. Alligevel puster ansigtsgenkendelsesteknologi nyt liv i Galls og Lombrosos fordomsfulde og kiksede racistiske påstande.

Ansigts målinger baseret på Lombrosos kriminologiske antropometriske metode

    To forskere fra Shanghai Jiao Tong University, Xiaolin Wu og Xi Zhang, har i 2016 udviklet en AI baseret på fotografisk ansigtsgenkendelse. Deres påstand er, at de med deres algoritme kan lære en maskine at læse billeder af menneskelige ansigter og dermed fastslå, hvorvidt den afbildede person har en kriminel karakter. Deres forskning fører bevis for at deres AI – med 89,5% nøjagtighed – kan bestemme, hvorvidt en person er kriminel eller har kriminelle karaktertræk. Ansigtsgenkendelse kan altså afgøre om du er lovlydig eller kriminel.

    Argumentet er, at ansigtsgenkendelses-teknologi kan udpege en kriminel allerede inden forbryderen er dømt. I teorien kan man altså forhindre en forbrydelse ved at pågribe forbryderen inden forbrydelsen er begået, Teknologien gør det muligt at udpege personer eller hele befolkningsgrupper, der med overbevisende matematisk sandsynlighed vil begå kriminalitet i fremtiden.

V. PRÆKOGNITION

    Cyberfrenologi indeholder en ambition om at beherske fremtiden. Ansigtsgenkendelse er en datadrevet krystalkugle. Det prækognitive element i måden vi bruger data på, udgør den centrale motivation og drivkraft i en datadrevet overvågningskultur.

    Data fra ansigtsgenkendelsesteknologi kan dokumentere din fortid og overvåge din nutid. Men målet er at forudsige din fremtid – med konkret matematisk sikkerhed. Personhenførbar data fra ansigtsgenkendelse kan spå om din fremtid og give forudsigelser et skær af evidensbaseret videnskabelig objektivitet.

    Teknologien producerer bias, fordomme eller forudsigelser om dig, som du kan få svært ved at slippe af med. Data har ingen ‘sidste salgsdato’. Data kan konfrontere dig med din fortid og din nutid på ethvert tidspunkt i din fremtid. 

    Det prækognitive element i den måde vi bruger data på er motiveret af et urealistisk politisk krav. Kravet fra vore folkevalgte er, at ordensmagten skal forhindre kriminalitet. På den konto må vi forvente, at politiet må nedprioritere nærvær, tilstedeværelse, efterforskning og forebyggelse.

    Den politiske prioritering forlanger en omstilling, hvor ordenshåndhævelse betyder mange flere ressourcer til datadrevet efterretningsmæssig overvågning.

    Regeringens nye tryghedspakke antyder, at omstillingen allerede har fundet sted. Der er intet nyt under solen. Tryghedspakken er bare mere af det samme. 

VI. TRYGHEDSPAKKE

    Kriminalitet er ikke genetisk begrundet. Mennesker begår kriminalitet som resultat af situationsbestemte eller rationelle valg. Alligevel antyder det prækognitive element i cyberfrenologi, der er omdrejningspunktet for regeringens ‘Tryghedspakke’, en ukritisk tilbagevenden til idéen om ‘den fødte forbryder’: En tro på, at data fra overvågning og ansigtsgenkendelses-teknologi kan forudsige menneskelig adfærd i fremtiden. Dermed kaster den politiske intention i ‘Tryghedspakken’ et århundredes kriminologiske teorier, om grunden til at mennesker begår kriminalitet, over højre skulder. Mere overvågning løser ikke de grundlæggende forhold, der i et samfundsteoretisk perspektiv generelt antages at være grobund for kriminalitet.

Den fødte forbryder?

    I et kriminalpolitisk perspektiv udgør ansigtsgenkendelse imidlertid et formidabelt værktøj til efterforskning af forbrydelser.

    Teknologien indebærer et løfte om mere effektivt politi, retsforfølgelse og kontrol. Politi og retsvæsen bruger i stigende omfang datadrevet bevisførelse høstet fra masseovervågning, hvor offentlige og private datakilder samkøres.

    Anvendelse af data fra ansigtsgenkendelse har indflydelse på etablerede metoder til bevisførelse, ændrer juridiske normer og gør det muligt at straffe kriminalitet, der endnu ikke er begået.

    Det gængse politiske argument er, at øget overvågning, kontrol og hårdere straffe er ‘trygheds-skabende’. Tryghed er blevet datadrevet. 

VII: TRYGHED ELLER PRIVATLIV

    Generelt indebærer data-drevet demokrati en ugennemsigtig udveksling af rettigheder, hvor en række etiske, retssikkerhedsmæssige og menneskeretslige forhold kommer under pres. Datadrevet tryghed udfordrer borgernes frihedsrettigheder, herunder retten til privatliv.

    Rettigheder til privatliv og personlig frihed afskrives i en byttehandel, hvor tryghed vejer tungere end hensynet til demokratiske værdier.

Teknologiudviklingen er løbet fra lovgivningen, men det er stadig et demokrati. Et data-drevet demokrati. Et demokrati uden demokratisk kontrol.

    Ansigtsgenkendelse rykker ved grænserne for krænkelser af privatlivets fred. Et hurtigt kig i krystalkuglen antyder, at demokratiske rettigheder i høj grad vil blive presset endnu mere i fremtiden.

    Udfordringen er, at vi først lige er begyndt at opdage det. Løsning på en udfordring er betinget af, at man først erkender, at man har et problem.

    Er du villig til at veksle privatliv til fordel for datadrevet tryghed?

Artiklen er udgivet på Altinget 09.12.2019: https://www.altinget.dk/digital/artikel/sikkerhedskonsulent-datadrevet-tryghed-presser-demokratiske-vaerdier

Skriv et svar

Please log in using one of these methods to post your comment:

WordPress.com Logo

Du kommenterer med din WordPress.com konto. Log Out /  Skift )

Google photo

Du kommenterer med din Google konto. Log Out /  Skift )

Twitter picture

Du kommenterer med din Twitter konto. Log Out /  Skift )

Facebook photo

Du kommenterer med din Facebook konto. Log Out /  Skift )

Connecting to %s

This site uses Akismet to reduce spam. Learn how your comment data is processed.