Hvordan var dit humør sidste gang, du tog toget? Var du glad? Eller sur?
Ny software kan gennem kunstig intelligens aflæse dine ansigtsudtryk og dermed dit humør.
Softwaren, der er udviklet af Amazon, er i de sidste to år blevet brugt på otte britiske togstationer som Waterloo Station i London og Picadilly Station i Manchester. Det skriver det amerikanske techmedie Wired.
Hvorfor, tænker du måske?
Ifølge Wired er køn, alder og følelser hos rejsende på de britiske togstationer blevet indsamlet for potentielt at kunne blive brugt til at målrette reklamer fremover.
Men det kan også bruges til flere ting, lyder det fra DR’s techkorrespondent Henrik Moltke. Som at beskytte togpersonalet og ander passagerer:
- Hvis der var nogen, der opførte sig voldeligt, for eksempel en fodboldfan eller andre, der står på toget, så kan man måske hurtigere opdage, at der er nogen, der er i gang med at gøre noget voldeligt. Fremfor at man bare har en optagelse, man kan se på bagefter og så anholde den, der har gjort det, siger Henrik Moltke i DR’s techpodcast Prompt.
Følelsesgenkendelsen er en del af et større forsøg med overvågning. Ifølge Wired har man også forsøgt sig med objektgenkendelse til eksempelvis at spotte personer på skinnerne samt holde øje med overbefolkning på perronen og antisocial adfærd - altså om nogen løber, råber, ryger eller står på skateboard, hvor de ikke skal det.
'I Kina har vi set meget, meget kontroversiel brug'
Oplysningerne om forsøgene kom ifølge Wired frem på baggrund af en anmodning fra organisationen Big Brother Watch, der kæmper for borgerrettigheder og privatliv.
Og organisationen er ikke begejstrede for det, de opdagede:
- Udrulningen og normaliseringen af overvågning med kunstig intelligens i offentlige rum – uden konsultation eller samtale – er et bekymrende skridt, siger Jake Hurfurt, ansvarlig for research og efterforskning i Big Brother Watch.
Organisationen er ifølge Hurfurt mest bekymret for den del af forsøget, der omhandler at aflæse sammensætningen af rejsende – lige fra køn og alder til følelser og humør.
Og især følelsesgenkendelse er også et kontroversielt emne inden for kunstig intelligens og forskning i det, lyder det fra Henrik Moltke.
De britiske togpassagerer er dog ikke de første, der er blevet udsat for denne type overvågning.
- I Kina har vi set meget, meget kontroversiel brug af følelsesgenkendelse. Det kan for eksempel bruges til skoler, hvor man holder øje med, om eleverne er opmærksomme eller ej.
Overvågning er heller ikke nyt i Storbritannien, lyder det fra Henrik Moltke. I Newham, der er et af de fattigste områder i London, findes et såkaldt CCTV-center – et overvågningscenter - så man kan følge med i, hvad der sker i området.
- Meget af det, de beskæftiger sig med, er antisocial behavior. Altså folk, der smider affald, børn, der sparker en bold over et sted, de ikke skal, eller hjemløse, der sov i opgange, siger han.
- Det er jo noget, man godt kan have mennesker, der går rundt og gør, men det er mere effektivt ved overvågningskameraer.
En usikker teknologi
Det er ikke første gang, at der bliver udtrykt bekymring for følelsesgenkendelse gennem kunstig intelligens.
Ifølge Wired har AI forskere flere gang advaret, om at det er upålideligt. Nogle mener endda, at det bør forbydes, fordi det er besværligt at aflæse følelser og humør ud fra lyd eller video.
Tilbage i oktober 2022 udsendte det britisk datatilsyn en offentlig advarsel om brugen af følelsesgenkendelse. Begrundelsen var, at teknologien er “umoden” og ikke virker endnu – og måske aldrig kommer til det.
Også Henrik Moltke peger på, at der er et stykke vej til, at teknologien er effektiv.
For hvis man ikke vil have, at et kamera med objektgenkendelse spotter et våben, så kan man sørge for, at det ikke ligner et våben, lyder det. Eller man kan lade være med at se sur ud, selvom man er det.
- Det er jo ikke fordi, at den kunstige intelligens forstår eller ved, hvad følelser er. Den har bare lært, at når matematikken peger på, at en mund er mere opadgående eller nedadgående, så er der en sandsynlighed for, at personen er sur eller glad, siger han.
Men virker det så? Værterne på DR’s techpodcast Prompt har testet det på billeder af sig selv. Hør mere om det her: