De nya AI-filtren skulle stoppa olämpliga bilder på nätet. För Gunilla Andersson, 54, har de i stället stoppat hela hennes digitala liv. Hennes ovanligt formade haka klassas konsekvent som nakenhet. Nu kan hon varken ta selfies, videosamtala eller förnya passet.
Det började med en semesterbild. Gunilla Andersson hade tagit en selfie utanför en restaurang och skulle lägga upp den på sociala medier. Men några sekunder senare kom beskedet:
Bilden har stoppats eftersom den kan innehålla sexuellt eller naket material.
– Jag förstod ingenting. Jag hade både blus och kofta på mig. Till slut tog jag en bild på bara ansiktet. Den stoppades ännu snabbare.
Gunilla försökte igen. Och igen. Efter 14 misslyckade försök började hon ana vad som var problemet.
– Jag höll handen framför hakan och då gick bilden igenom direkt.
Kan inte längre ta selfies
Problemen började efter att flera stora digitala plattformar skärpt sina automatiska bildfilter. AI analyserar bilder innan de publiceras och kan reagera på former, hudtoner och detaljer som systemet bedömer som olämpliga.
I Gunillas fall verkar algoritmen ha fastnat för hennes haka.
– Jag har haft den här hakan i 54 år. Det har aldrig varit några problem tidigare. Nu betraktas den tydligen som pornografisk.
– Det känns förnedrande. Jag kan inte lägga ut en bild på min haka men en räkmacka går bra att publicera, säger Gunilla.
Problemen har dessutom spridit sig till videosamtal. När Gunilla nyligen skulle prata med sin syster försvann bilden efter fyra sekunder.
– Hon hörde bara min röst och fick upp en ruta om känsligt innehåll.
Sedan dess håller Gunilla en kaffekopp framför hakan när familjen ringer.
Anhölls hos passpolisen
Men det verkliga problemet uppstod när Gunilla skulle förnya sitt pass. När fotografiet togs reagerade polisens bildsystem omedelbart.
– Först trodde jag att jag hade blinkat. Fotografen tog en ny bild. Sedan en till. Till slut kom två poliser in i rummet.
Enligt Gunilla hade systemet flaggat för att en person försökte registrera en bild innehållande nakenhet i en myndighetslokal.
– Jag sa: ”Det är mitt ansikte.” De sa att de förstod det, men datorn stod fast vid sitt beslut.
Gunilla ombads därefter följa med till ett annat rum och fick redogöra för varför den misstänkta kroppsdelen befann sig på hennes passfoto.
– Jag försökte förklara att den satt fast. Efter drygt två timmar släpptes hon. Något nytt pass fick hon inte.
Sökte hjälp hos plastikkirurg
I desperation kontaktade Gunilla en plastikkirurgisk klinik. Hon bifogade ett fotografi och förklarade situationen. Några minuter senare fick hon ett automatiskt svar:
”Vi utför för närvarande inte ingrepp på den delen av kroppen.”
– Där bröt jag faktiskt ihop lite. Jag ringde kliniken och sa att ni måste titta på bilden igen. Då tittade en människa på den och bad om ursäkt. Men kliniken avrådde ändå från operation.
Experten: ”Systemet fungerar som avsett”
Nackspärr24 har talat med AI-säkerhetsexperten Conny Pickfeldt, som arbetar med automatiserad innehållsgranskning. Han menar att Gunillas fall är ovanligt, men att det visar hur svårt det är att konstruera system som alltid förstår vad de tittar på.
– En dator ser inte Gunilla. Den ser former, proportioner, hudytor och sannolikheter. Ibland blir det fel. Datorn tolkar henne vara en stjärt och är programmerad för att censurera sådant.
Men är det inte ganska uppenbart att det är en haka?
– För dig, ja.
Och för dig?
– Både ja och nej. Efter ett halvt glas vin skulle jag nog kunna begå misstag.
Så vilka är det egentligen som inte förstår det?
– Alla förstår kanske men datorn reagerar snabbt.
Enligt Pickfeldt arbetar branschen nu med att förbättra systemen.
– Det viktiga är samtidigt att inte göra filtren för tillåtande. Om vi lär AI:n att Gunillas haka är en haka måste vi vara säkra på att den inte börjar godkänna allt som en haka.
Har börjat använda halsduk
I väntan på en lösning har Gunilla förändrat sitt liv. Hon använder numera halsduk på videomöten och har upptäckt att hon kan passera vissa ansiktskontroller om hon håller upp två fingrar framför hakan. På sociala medier har hon bytt profilbild till ett fotografi av sin katt.
– Katten kommer igenom direkt. Han ligger där helt naken dessutom.
Gunilla hoppas fortfarande att tekniken ska lära sig känna igen henne. Men någon ny selfie tänker hon inte försöka lägga upp den närmaste tiden.
– Jag tänker inte be om ursäkt för hur jag ser ut. Det här är mitt ansikte.
Hon tystnar och tittar på mobilen.
– Även om internet tydligen anser att jag borde ha byxor på mig, även i ansiktet.