Den nya systemkameran Nuca kan klä av vem som helst. Kameran skickar fotot till en server där motivet analyseras utifrån egenskaper som kön, längd, kroppsform, ålder, frisyr och hudfärg. Av denna data skapar ett generativt AI-system en naken kropp i samma position och förser den med den avbildades ansikte. Det tar bara tio sekunder.
Men Nuca går inte att köpa. Den är ett konstprojekt för att väcka debatt. Upphovsmännen, de tyska konstnärerna Mathias Vef och Benedikt Gross lovar att Nuca aldrig ska säljas offentligt. Den ska användas på en konstutställning i sommar. Och alla som fotograferas ska ha godkänt det.
Men den snabba utvecklingen inom generativ AI hade sprungit ifrån Nuca långt innan den presenterats. En vanlig mobilkamera kan bli en Nuca med hjälp av någon de många AI-sajter som komponerar nya verklighetstrogna porrbilder efter användarens detaljerade önskemål, eller skapar avklädda versioner av existerade fotografier, så kallad deepfake-porr. Fejkade men verklighetstrogna videoklipp är nästa steg. Det ligger inte långt borta. Världens ledande AI-utvecklare Open AI håller som bäst på att lansera sin generativa AI-videoskapare Sora. Den och andra seriösa generativa AI-sajter har filter som hindrar naket och porr. Men när tekniken väl finns kommer den snabbt att klonas och missbrukas.
Hämndporr har länge varit ett problem. Alltså att sprida nakenbilder som tagits i privata sammanhang, partners emellan. Men nu behöver man inga original längre. Allt går att skapa artificiellt. Kvinnliga kändisar som exempelvis Taylor Swift har länge varit utsatta. Men problemet växer snabbt inom alla delar av samhället eftersom den tekniska utvecklingen gjort det så lätt.
Sommaren 2023 råkade dussintals minderåriga flickor från Spanien ut för att AI-genererade nakenbilder av dem spreds i den grundskola de gick på. Flickorna var mellan 12 och 14 år gamla och några av dem blev till och med kontaktade på sociala medier där en bedragare försökte pressa dem på pengar för att inte dela bilderna.
Man skulle kunna tro att den här verksamheten enbart bedrevs på mer ljusskygga delar av internet, men stora betalkort som Visa och Mastercard upplåter sina betallösningar för den som vill tjäna pengar på fejkporr. Som så många gånger tidigare ligger tekniken långt före lagstiftningen.
Det är kriminellt att sprida fejkade nakenbilder på personer som inte gett sitt medgivande. I Sverige kan den som sprider hämndporr dömas för olaga integritetsintrång, som blev straffbart 2018. I Finland är, sedan den nya sexbrottslagen trädde i kraft förra året, olovlig spridning av sexuell bild straffbart med böter eller fängelse i högst två år. Men lagstiftningen behöver uppdateras eftersom AI-skapade fejkbilder öppnar den juridiska tolkningsfrågan om bilden verkligen föreställer en verklig person, avsett hur likt det är.
Storbritannien går i bräschen och håller som bäst på att kriminalisera skapandet av AI-modifierade porrfilmer och porrbilder, om det skett utan den avbildade personens tillstånd. Den som sprider så kallad deepfake-porr ska också kunna dömas till fängelse. Finland bör studera det brittiska exemplet noga och omgående börja se över vår sexbrottslagstiftning. Problemen med deepfejk-porr kommer bara att växa.
Petter Lobråten
tel: 26 633
