AI-identitetsstöld ökar med 340%: Expertanalys

I takt med att cyberhot utvecklas har identitetssäkerhet blivit viktigare än någonsin i frontlinjen mot cyberattacker. En nyligen publicerad rapport från SlashNext visar att hotaktörer utnyttjar generativa AI-verktyg för att stödja nätfiskeattacker, vilket har lett till en ökning av nätfiske med 341% på bara sex månader.

Denna massiva våg av nya attacker inkluderar skadliga länkattacker, Business Email Compromise (BEC), nätfiske med QR-koder samt e-postbaserade och multi-kanalmeddelande hot med bifogade filer.

SlashNext rapporterar att sedan den första generativa AI-teknologin blev tillgänglig för allmänheten (ChatGPT i november 2022), har det skett en ökning av skadliga nätfiskemeddelanden med 4 151%.

Idag involverar 80% av alla dataintrång komprometterade identiteter, vilket kostar företag miljarder dollar årligen. Med den ökade användningen av SaaS-applikationer och artificiell intelligens växer också antalet attacker som riktar sig mot identiteter – med en ökning på 71% från år till år, enligt 2024 års IBM Threat Intelligence Index.

Innehållsförteckning Innehållsförteckning

1. Nyckelinsikter om den kraftiga ökningen av AI-driven identitetsstöld
2. Hur AI-teknik för identitetsstöld skapar konflikter inom organisationer
3. Dolda kostnader: Förtroende, störningar, juridik och försäkringar
4. Nästa generations AI-bedrägerirobotar och GenAI-attacker
5. Slutsatsen AI-drivna cyberhot
6. Vanliga frågor om AI-användning i cyberattacker
7. Referenser

Visa fullständig lista

Innehållsförteckning

1. Nyckelinsikter om den kraftiga ökningen av AI-driven identitetsstöld
2. Hur AI-teknik för identitetsstöld skapar konflikter inom organisationer
3. Dolda kostnader: Förtroende, störningar, juridik och försäkringar
Visa fullständig lista
4. Nästa generations AI-bedrägerirobotar och GenAI-attacker
5. Slutsatsen AI-drivna cyberhot
6. Vanliga frågor om AI-användning i cyberattacker
7. Referenser

Hur AI-teknik för identitetsstöld skapar konflikter inom organisationer

Identitetsbaserade attacker blir alltmer sofistikerade när angripare använder AI för att automatisera och skala upp sina metoder.

Jim Alkove, tidigare Chief Trust Officer på Salesforce och Microsoft Security CVP, och nuvarande VD för Oleria, pratade om identitetssäkerhet med Techopedia.

“Identitet är den största utmaningen inom cybersäkerhet idag. Om du inte vet vem eller vad som interagerar med din data kan du inte skydda den.”

Förutom att det kostar amerikanska företag i genomsnitt 9,48 miljoner dollar per intrång, orsakar identitetsrelaterade säkerhetsincidenter eller stölder betydande skador på företagets rykte. Alkove talade om de dolda kostnaderna av identitetsstöld.

“När ett företag drabbas av en större säkerhetsincident påverkas inte bara affärsverksamheten — det kan också påverka förtroendet från kunder och partners på längre sikt.”

“Med ett rekordhögt antal intrång i år och nya AI-drivna säkerhetshot har det aldrig varit viktigare för företag att utveckla och modernisera sitt förhållningssätt till identitetssäkerhet.”

“Tekniker som AI-drivet nätfiske, där maskininlärningsalgoritmer genererar högst personligt anpassade nätfiske-e-postmeddelanden, blir allt vanligare,” sa Alkove.

“Dessutom används AI för att skapa deepfakes, vilket kan lura både individer och system, och ytterligare försvåra säkerhetsinsatser.”

Alkove förklarade att angripare använder AI för att analysera stora mängder data för att identifiera sårbarheter i mjukvara, vilket tvingar säkerhetsteamen att ständigt anpassa och utveckla sina försvar, ofta med begränsade resurser.

Hal Lonas, CTO på Trulioo, berättade för Techopedia att skadorna från AI-drivna identitetsstölder sträcker sig långt bortom finansiella förluster.

“Attackerna kan påverka medarbetarnas moral och skapa en känsla av att de interna teamen inte är redo för kampen. Det kan leda till kontraproduktiva reaktioner.”

Denna typ av attacker kan också påverka innovation, eftersom organisationer uppfattar nya produkter eller lösningar som potentiella mål för hackare. Detta sätter företag i en nackdel, då de fördröjer införandet av avancerad teknik på grund av säkerhetsbekymmer.

Dolda kostnader: Förtroende, störningar, juridik och försäkringar

Under 2023 spårade Identity Theft Resource Center (ITRC) 3 205 dataintrång, en ökning med 72% från den tidigare toppnoteringen 2021. Samtidigt rapporterade Federal Trade Commission (FTC) över 10 miljarder dollar i bedrägeriförluster 2023, en ökning med 14% från 2022, vilket belyser den ökade sårbarheten och det därmed följande förtroendetappet bland konsumenter.

Jim Kaskade, VD för Conversica, en leverantör av konversations-AI för intäktsdrivande team, pratade med Techopedia om framtiden för AI-baserad identitetsstöld.

“Jag tror att framöver kommer 60% av dessa attacker att vara AI-drivna. AI-drivna attacker, såsom deepfakes, syntetiska identiteter och sofistikerade nätfiskeattacker, har blivit allt vanligare.”

Dessutom, när AI-baserad identitetsstöld ökar, påverkas affärskontinuiteten. ITRC fann att nästan 11% av alla börsnoterade företag blev komprometterade 2023. Dessa intrång resulterade i betydande driftstörningar och omfördelning av resurser för att hantera och mildra säkerhetsincidenter. Kaskade från Conversica berättade för Techopedia att trenden förväntas öka, drivet av AI.

“AI förbättrar effektiviteten och framgångsgraden för attacker, vilket leder till mer frekventa och allvarliga driftstörningar. AI-algoritmer kan automatisera storskaliga nätfiskeattacker och credential stuffing-attacker, vilket orsakar omfattande störningar.”

Juridiska kostnader ökar också, med förluster under 2023 som översteg 10 miljarder dollar. “Med AI som möjliggör mer sofistikerade och storskaliga attacker blir juridiska konsekvenser, inklusive böter och stämningar, allt vanligare,” sa Kaskade.

Dessutom inkluderar dolda kostnader återuppbyggnad efter intrång och varumärkesåterställning, samt ökade premier för cyberförsäkringar.

Alkove från Oliera tillade att det ständiga hotet om attacker skapar en högstressmiljö för säkerhetsteamen, vilket leder till utbrändhet och ofta mänskliga misstag.

“Förlorade affärsmöjligheter är en annan långsiktig kostnad, eftersom potentiella kunder och partners kan vara tveksamma till att engagera sig med ett företag som har en historia av säkerhetsincidenter,” sa Alkove.

Nästa generations AI-bedrägerirobotar och GenAI-attacker

Christopher Tennyson, Director of Product Marketing på Kount, ett Equifax-företag som specialiserar sig på bedrägeribekämpning, identitet och regelefterlevnad, pratade med Techopedia om hur skadliga botar har uppgraderats med AI, vilket komplicerar upptäckten av bedrägerier.

Tennyson förklarade att botar som tidigare utförde specifika handlingar var lätta att upptäcka med hjälp av maskininlärningsmodeller och AI som kunde identifiera icke-mänskligt beteende.

“Då var bedragare tvungna att anpassa sig och började använda AI själva. Ett enkelt skript kunde då möjliggöra beteenden som efterliknade en riktig persons.”

“Framväxten av generativ AI (GenAI) har bara ökat dessa möjligheter genom att göra det möjligt för botar att kringgå allmänt accepterade bot-detekteringskontroller som CAPTCHA,” sade Tennyson.

Tennyson nämnde också att deepfakes är ett annat område där de ser betydande framsteg. “Genom att samla in några exempel på en persons ansikte och röst kan en bedragare nu efterlikna en video eller ett samtal som utger sig för att vara den personen,” tillade Tennyson.

Med hjälp av GenAI kan cyberkriminella också skapa texter på vilket språk som helst och kringgå automatiserade säkerhetsmodeller som förlitar sig på nyanser och fel för att upptäcka en attack.

Tennyson förklarade att kriminella innovationer skapar många kostnader för organisationer, från omfördelning av operativa resurser som påverkar prestanda och tillväxt, till pågående bedrägerier, finansiella konsekvenser, aktiekursnedgångar, kredit- och finansieringsbegränsningar samt ökade kostnader för teknikinvesteringar för att bekämpa nya sårbarheter.

Slutsatsen AI-drivna cyberhot

Som Chris Hills, Chief Security Strategist på BeyondTrust, sa till Techopedia: “När det gäller den organisatoriska påverkan av AI-drivna identitetsstölder har vi bara sett början på den våg och långvariga påverkan som kommer att ske”.

Hills tillade att AI-attacker kommer att öka, nå en topp och bli ett kritiskt problem, precis som ransomware gjorde.

“AI-drivna identitetshot är i ett tidigt skede. De kommer att bli mer sofistikerade, AI kommer att möjliggöra för angripare att effektivisera sina attackvägar i hastigheter vi aldrig tidigare sett eller upplevt,” sa Hills.

“När det gäller AI-attacker mot identiteter ser vi en sådan utveckling inom deepfake-ljud och videoidentitetsförfalskning att slutanvändare, ingenjörer och chefer nu tvingas ifrågasätta vad som är verkligt och vad som är falskt, det har blivit SÅ BRA!!”

Sammanfattningsvis har sammansmältningen av AI och cyberbrott inlett en ny era av identitetsstölder med exponentiellt högre insatser.

De dolda kostnaderna för dessa attacker sträcker sig långt bortom ekonomiska förluster, och påverkar förtroende, verksamhet och till och med innovation. I takt med att AI fortsätter att utvecklas måste organisationer snabbt anpassa sina säkerhetsstrategier för att bekämpa detta växande hot eller riskera att stå inför katastrofala konsekvenser.

Vanliga frågor om AI-användning i cyberattacker