AI-svindel og forfalskninger er eksploderet i de seneste år, og forskning fra Amazon har beregnet, at op til 60 procent af indholdet på internettet er AI-genereret.

AI-svindel er alt fra “deepfake” internet indhold, der er designet til at fremstå stærkt vildledende, til digital svindel og økonomisk kriminalitet, der frarøver en ud af tre danske virksomheder.

I de senere år har vi set deepfakes blive brugt til at manipulere valg, begå svindel og tyveri samt skabe pornografiske billeder af mennesker uden deres samtykke. Teknologi kan hjælpe med at beskytte os mod deepfakes, men denne teknologi giver ikke alle svarene og er ikke 100 procent pålidelig.

Forbes: Kritisk Tænkning Det Bedste Forsvar Mod AI-Svindel

I Forbes artiklen: ”Why Critical Thinking Is Your Best Weapon Against The Coming Deepfake Tsunami” forklare de at kritisk tænkning er det bedste forsvar mod at blive skadet af AI-generet misinformation og svindel.

Da vi ikke helt kan stole på teknologi til at opdage AI-svindel, er det bedste forsvar mod at blive skadet af AI-genereret desinformation, menneskelige færdigheder som kontekstforståelse og kritisk tænkning.

Virksomheder er nødt til allerede i dag at træne deres medarbejdere i at kunne vurdere indhold og information kritisk. Og som enkeltpersoner bør vi forstå, hvordan og hvorfor personer med onde hensigter vil forsøge at påvirke vores tanker og valg.

Kontekstforståelse og kritisk tænkning kan ofte være så enkelt som at spørge: „Giver det her mening?“ Men der er også mange andre kritiske spørgsmål vi kan still for at afklare om de informationer, og det indhold vi modtager er rigtige eller forfalskede.

I USA blev en medarbejder hos et ingeniørfirma, narret til at overføre 25 millioner dollars til svindlere, der brugte en deepfake af chefens stemme. Med kritisk tænkning ville denne medarbejder have været bedre forberedt, og mere opmærksom på den usædvanlige karakter af anmodningen.

Hvordan Kritisk Tænkning Hjælper Med At Afsløre AI-Svindel

Kritisk tænkning hjælper os med at stille spørgsmålene: Hvem kommer informationen fra, og hvorfor vil de have os til at modtage den? Desinformation spiller ofte ekstremt på følelser for at skabe frygt, vrede eller begejstring. Heldigvis kan vi trænes i at opdage, når vi bliver manipuleret på denne måde.

Deepfake-teknologi vil kun blive mere sofistikeret. Vi vil sandsynligvis nå et punkt, hvor selv de bedste værktøjer til at opdage manipulation ikke altid vil kunne identificere falske videoer, billeder eller lyd.

Vil regulering beskytte os? Regeringer i nogle lande, såsom Kina og EU, har allerede indført regler for deepfakes. Desværre følger kriminelle ikke altid loven. Den menneskelige forsvarsmekanisme – kritisk tænkning – vil derfor forblive et af de mest effektive forsvar i længere tid.

Derfor er organisationer nødt til at reagere på dette nu og sikre, at alle forstår procedurerne og kritisk tænkning for at verificere og vurdere information, før der handles på den.

Critical Consult tilbyder målrettet kurser i kritisk tænkning, der træner og forbereder ansatte i at opdage AI- og digital svindel. På forsiden at denne hjemmeside kan du se kursus indholdet, samt priserne.