KI-influenser tjener opptil 10 000 dollar i måneden – bør vi forby falske mennesker i markedsføring?

Influenseren Aitana Lopez har 133 000 følgere på Instagram og tjener mellom 3000 og 10 000 dollar i måneden. Men de som forsøker å spørre den 25 år gamle rosahårede modellen på date, blir skuffet. For Aitana eksisterer kun på skjermen. Bør vi forby kommersiell bruk av KI-generert innhold?

Aitana tjener rundt 1000 euro per reklame. Nylig har hun blitt ansiktet utad for et stort selskap som selger sportssprodukter, skriver EuroNews.com. Hun har også mer private bilder av seg på Fanvue.com, et OnlyFans-lignende nettsted der man for 15 euro i måneden kan kjøpe tilgang.

Ifølge byrået bak figuren er hun nylig bedt på date av en kjent latinamerikaner med fem millioner følgere på Instagram, som ikke innså at Aitana var en KI-bløff.

Ikke så rart, for det er ikke oppgitt på Instagram-profilen at hun ikke eksisterer.

Et produkt av dårlige tider

Det er det spanske byrået The Clueless Agency som står bak Aitana. Rubén Cruz, grunnlegger av firmaet, forteller til EuroNews at ideen kom ifjor sommer da det skortet på kunder. Ofte ble prosjekter satt på vent eller avblåst på grunn av utfrodringer med influensere eller modeller.

Ved å lage sin egen influenser kunne byrået gjøre seg uavhengig av folk med «…egoer, manier eller som bare er ute etter å tjene masse penger på å posere.» En KI-figur er mer medgjørlig enn en ekte person.

Nå møtes byrået en gang i uken og blir enige om hva Aitana skal gjøre, hvilke steder hun skal besøke og hva hun skal dele fra sitt liv som kunstig influenser. Aitanas suksess har inspirert byrået til å lage enda en KI-influenser kalt Maia.

I likhet med Aitanas profil er det ingenting om Maia som tilsier at hun er KI-generert, annet enn at bildene er i overkant polerte.

Uetisk, må reguleres

Men det ser ikke ut til å ringe i noen etiske bjeller hos The Clueless Agency når de generer falske personer som utgir seg for å være ekte.

Aitana er lettkledd, seksualisert og ofte urealistisk perfeksjonert. Kjøper man tilgang til Aitanas mer private kanaler, er det sannsynlig at man også får se henne uten en eneste KI-generert tråd.

På nettet florerer det med KI-generert innhold og det blir stadig vanskeligere å skille det virkelige fra det genererte. Falskt innhold brukes i propaganda i krig og i markedsføring for norske bedrifter. Det er ikke lenge siden undertegnede avslørte at Sparebank 1 Østlandet brukte et KI-generert ansikt i sin sparekampanje, i et innlegg i Aftenposten.

Harald (29) eksisterer ikke.

Norske bedrifter bruker KI

Etter avsløringen av Sparebank 1 Østlandet ble jeg tipset om lignende kampanjer der selskaper benyttet seg av kunstige ansikter for å fremme et budskap. Som denne for Sandefjord kommune.

KI-modell spiller rollen som advokat i Sandefjord kommunes annonse på Facebook. (Foto: Sandefjor kommune/KI.

Slike kunstige modeller bidrar til urealistiske forventninger om eget og andres utseende blant unge. Særlig når man ikke oppgir at personene i bildene er falske.

Det kan virke som nærmest umulig å konkurrere med de perfekte modellene i kampen om oppmerksomhet på nettet. Aitana har på få måneder vervet over 133 000 følgere og det er neppe på grunn av de interessante meningene hennes.

Falskt innhold skaper en verden der det blir umulig å vite hva som er ekte. Dessuten blir alt mer generisk og stereotypisk når modellene reproduserer av materiale som allerede eksisterer.

Det er heller ikke å foretrekke at fotografer og illustratører mister jobbene til datamodeller som er trent opp på arbeidene til nettopp fotografer og illustratører. Vi kan ikke bare ha DJer, noen må også lage låtene.

Ansvarsfraskriving

Heldigvis er ikke dette en verden vi uten videre er nødt til å godta. Facebook-opprøret mot skjermbruk i barneskolen, har klart å påvirke politikerne til å vurdere forbud mot mobiltelefon i skolen. Antall sparkesykler i bybildet er redusert. 18-årsgrense på spill utsetter mange barns møter med blind bestialsk vold. Det nytter med reguleringer, og det er ikke umulig å lage normer og lover for bruk av kunstig intelligens.

På spørsmål om hva slags etiske tanker det spanske byrået selv har gjort seg, svarer de til EuroNews at de bare responderer på en estetikk som allerede er etablert av merker og influensere. De er bare et symptom på en allerede ekisterende kultur.

Følger vi ikke denne estetikken, vil ikke merkene være interessert. Skal man forandre systemet, må selskapenes visjon forandres. Verden er seksualisert.

Les mer
Trappist-1 b

Rubén Cruz, The Clueless

De virker heller ikke så opptatt av å opplyse om at innholdet de lager er kunstig. Kanskje ikke så rart, for det er ikke sikkert deres Aitana er like attraktiv for markedsførere om det kommer tydelig frem at hun ikke er ekte.

Mangler etisk apparat

Det er klart at mange publisister mangler etisk apparat for kunstig intelligens. Nylig rapporterte TV2 at den ideelle organisasjonen Dråpen i havet har brukt et KI-generert bilde av barn i en flyktningeleir som feirer Halloween. For å skåne de virkelige barna.

Både digitaliseringsminister Karianne Tung og Inga Strümke applauderer kampanjen og mener det er god bruk av kunstig intelligens. Her har man både spart de ekte barna for eksponering og merket bildet som KI-generert. Man har ikke prøvd å lure noen.

Som Inga Strümke sier: «Velkommen til fremtiden. Dette er bare å venne seg til.»

Heller ikke ekte. (Foto: Dråpen i havet / laget med Gencraft.)

Men selv om bildet er merket som skapt med kunstig intelligens, fordreier denne typen innhold virkeligheten og gir oss falske inntrykk av hvordan verden ser ut.

Teksten i hjørnet er det heller ikke nødvendigvis gitt at man får med seg når man scroller gjennom nyhetsstrømmen. Vi bruker som kjent bare sekunder på hvert innlegg og er det noe vi husker fra strømmen av innhold, er det kanskje heller bildet og budskapet, enn notisen om hvordan bildet ble til.

Bilder mister sin verdi

Som professor i kunstig intelligens Morten Goodwin påpeker til TV2 så forsøker kampanjen å vekke empati hos seeren for et barn som ikke er ekte. Det er i seg selv problematisk, og etter en tid med oversvømmelse av falskt innhold, vil slike bilder fullstendig miste slagkraft. Ekte så fremt som uekte, siden vi generelt blir blasert.

Vi skal derfor være svært forsiktig med hvordan vi bruker kunstig intelligens, uansett hvor god intensjonen er. Det er enda ikke kommet gode lover for kommersiell bruk av verktøyene, men en god idé kan være å hardnakket forby bilder skapt med kunstig intelligens i markedsføring.

Det ville minimere tvilstilfeller og være enkelt å forholde seg til. Har vi egentlig noe å tape?

Ansvarlig redaktør: Ole Magnus Kinapel.
Ta kontakt på desk(at)teknokratiet.no
© 2023 Teknokratiet.