KI-svindel er ikke uvanlig. Men for første gang er et stort internasjonalt selskap svindlet for flere titalls millioner.
Alt så ekte ut
Søndag meldte avisen South China Morning Post at et stort multinasjonalt selskap med base i Hong Kong hadde blitt svindlet for rundt 250 millioner kroner.
Svindlerne brukte avansert kunstig intelligens hvor deepfake-teknologi skapte bilder og lyd av det som angivelig var selskapets daglige leder.
Ifølge politiet skal flere ansatte i selskapet deltatt i en videokonferanser hvor deepfake-versjoner av både den daglige lederen og ansatte var med. En uvitende (ekte) ansatt fikk beskjed om å overføre penger ut av selskapet. Pengene er nå sporløst borte. «Alt så helt ekte ut», sier en som deltok på videokonferansen.
En slik form for svindel har aldri forekommet i Hong Kong tidligere. Både bilder og stemmene til ansatte i det aktuelle selskapet ble gjenskapt av KI. Det var så overbevisende at ingen fattet mistanke før en uke senere. Politiet har nå åpnet etterforskning.
Les også: Apple Vision Pro gir oss en sniktitt på teknodystopien
Problematisk bruk av kunstig intelligens
Svindelen i Hong Kong er nok et eksempel på hvordan KI-teknologi brukes kriminelt. De siste ukene har flere medier skrevet om hvordan Taylor Swift brukes til å lage KI-pornografi og hvordan Joe Bidens stemme brukes i robotsamtaler.
Politiet i Hong Kong advarer nå alle selskaper som ofte har videokonferanser som en del av sin digitale kommunikasjon. De oppfordrer selskapene til å lage rutiner for verifisering av ansatte i videokonferanser. Det kan gjøres gjennom bevegelser og kontrollspørsmål.
Deepfake-svinel er ikke nytt i Kina og myndigheten arbeider for å få kontroll over teknologien og svindelmetodene. Politiet håper på sikt at kinesiske banker gjennom sine FPS-systemer også kan varsles når det er mistanke om KI-svindel.
