KOMMENTAR
Som cybersäkerhetsexperter förutspådde för ett år sedan, har artificiell intelligens (AI) varit en central aktör i 2023 års cyberbrottslandskap, och drivit på en ökning av attacker samtidigt som den bidragit till förbättringar i försvaret mot framtida attacker. Nu, på väg in i 2024, förväntar sig experter över hela branschen att AI kommer att utöva ännu mer inflytande inom cybersäkerhet.
Smakämnen Google Cloud Cybersecurity Forecast 2024 ser generativ AI och stora språkmodeller som bidrar till en ökning av olika former av cyberattacker. Mer än 90 % av kanadensiska VD:ar i en KPMG-undersökning tror generativ AI kommer att göra dem mer sårbara för intrång. Och en brittisk regeringsrapport säger att AI utgör en hot mot landets nästa val.
Medan AI-relaterade hot fortfarande är i ett tidigt skede, ökar volymen och sofistikeringen av AI-drivna attacker varje dag. Organisationer måste förbereda sig för vad som väntar.
4 sätt cyberbrottslingar använder AI på
Det finns fyra huvudsakliga sätt som motståndare använder allmänt tillgängliga AI-verktyg som ChatGPT, Dall-E och Midjourney: automatiserade nätfiskeattacker, identitetsattacker, sociala ingenjörsattacker och falska chatbotar för kundsupport.
Spear-phishing-attacker får ett stort uppsving från AI. Tidigare var det lättare att identifiera nätfiskeförsök enbart för att många var fulla av dålig grammatik och stavfel. Kräsna läsare kunde upptäcka sådan udda, oönskad kommunikation, förutsatt att den troligen genererades från ett land där engelska inte är huvudspråket.
ChatGPT eliminerade i stort sett tipset. Med hjälp av ChatGPT kan en cyberkriminell skriva ett e-postmeddelande med perfekt grammatik och engelsk användning, formaterat på en legitim källas språk. Cyberbrottslingar kan skicka ut automatiserad kommunikation som efterliknar till exempel en myndighet på en bank som ber användare att logga in och ge information om sina 401(k)-konton. När en användare klickar på en länk för att börja lämna information tar hackaren kontroll över kontot.
Hur populärt är detta trick? SlashNext Rapport om tillstånd för nätfiske 2023 tillskrev en ökning med 1,265 2022 % av skadliga nätfiske-e-postmeddelanden sedan fjärde kvartalet XNUMX till stor del till riktade kompromisser med affärse-post med hjälp av AI-verktyg.
Imitationsattacker är också på uppgång. Genom att använda ChatGPT och andra verktyg, utger sig bedragare som verkliga individer och organisationer, utför identitetsstölder och bedrägerier. Precis som med nätfiskeattacker använder de chatbots för att skicka röstmeddelanden som låtsas vara en pålitlig vän, kollega eller familjemedlem i ett försök att få information eller tillgång till ett konto.
Ett exempel ägde rum i Saskatchewan, Kanada, i början av 2023. Ett äldre par fick ett samtal från någon som utgav sig för att vara deras barnbarn och hävdade att han hade varit med om en bilolycka och satt i fängelse. Uppringaren förmedlade en historia om att han hade blivit skadad, hade tappat sin plånbok och behövde 9,400 XNUMX dollar i kontanter för att göra upp med ägaren till den andra bilen för att slippa åtalas. Farföräldrarna gick till sin bank för att ta ut pengarna men undvek att bli lurad när en banktjänsteman övertygade dem om att begäran inte var legitim.
Även om branschexperter trodde att denna sofistikerade användning av AI-röstkloningsteknik skulle utvecklas inom några år, var det få som förväntade sig att den skulle bli så effektiv så snabbt.
Cyberkriminella använder ChatGPT och andra AI-chatbotar för att utföra sociala ingenjörsattacker som skapar kaos. De använder en kombination av röstkloning och deepfake-teknik för att få det att se ut som om någon säger något upphetsande.
Detta hände natten innan Chicagos borgmästarval i februari. En hackare skapade en deepfake-video och postade den på X, tidigare känd som Twitter, där kandidaten Paul Vallas påstås göra falska brandkommentarer och spruta ut kontroversiella politiska ståndpunkter. Videon genererade tusentals visningar innan den togs bort från plattformen.
Den sista taktiken, falska chatbotar för kundtjänst, finns, men de är förmodligen ett eller två år ifrån att få stor popularitet. En bedräglig banksajt kan skapas med hjälp av en chatbot för kundtjänst som verkar mänsklig. Chatboten kan användas för att manipulera intet ont anande offer att lämna över känslig personlig information och kontoinformation.
Hur cybersäkerhet slår tillbaka
Den goda nyheten är att AI också används som ett säkerhetsverktyg för att bekämpa AI-drivna bedrägerier. Här är tre sätt som cybersäkerhetsindustrin slår tillbaka på.
Utvecklar sin egen Adversarial AI
I huvudsak är detta att skapa "bra AI" och träna den för att bekämpa "dålig AI". Genom att utveckla sina egna generativa kontradiktoriska nätverk (GAN) kan cyberföretag lära sig vad de kan förvänta sig i händelse av en attack. GAN består av två neurala nätverk: en generator som skapar nya dataprover och en diskriminator som skiljer de genererade samplen från de ursprungliga samplen.
Genom att använda dessa tekniker kan GAN generera nya attackmönster som liknar tidigare sett attackmönster. Genom att träna en modell på dessa mönster kan system göra förutsägelser om vilken typ av attacker vi kan förvänta oss att se och hur cyberbrottslingar utnyttjar dessa hot.
Anomali upptäckt
Detta är att förstå grundlinjen för vad normalt beteende är och sedan identifiera när någon avviker från det beteendet. När någon loggar in på ett konto från en annan plats än vanligt eller om ekonomiavdelningen på ett mystiskt sätt använder ett PowerShell-system som normalt används av mjukvaruutvecklare, kan det vara en indikator på en attack. Även om cybersäkerhetssystem länge har använt denna modell, kan de extra tekniska hästkrafter som AI-modeller besitter mer effektivt flagga meddelanden som är potentiellt misstänkta.
Detektionssvar
Genom att använda AI-system kan cybersäkerhetsverktyg och -tjänster som managed detection and response (MDR) bättre upptäcka hot och kommunicera information om dem till säkerhetsteam. AI hjälper säkerhetsteam att snabbare identifiera och hantera legitima hot genom att ta emot information som är kortfattad och relevant. Mindre tid som spenderas på att jaga falska positiva resultat och försöka dechiffrera säkerhetsloggar hjälper team att lansera mer effektiva svar.
Slutsats
AI-verktyg öppnar samhällets ögon för nya möjligheter inom praktiskt taget alla arbetsområden. När hackare drar full nytta av tekniker för stora språkmodeller kommer branschen att behöva hålla jämna steg för att hålla AI-hotet under kontroll.
- SEO-drivet innehåll och PR-distribution. Bli förstärkt idag.
- PlatoData.Network Vertical Generative Ai. Styrka dig själv. Tillgång här.
- PlatoAiStream. Web3 Intelligence. Kunskap förstärkt. Tillgång här.
- Platoesg. Kol, CleanTech, Energi, Miljö, Sol, Avfallshantering. Tillgång här.
- PlatoHealth. Biotech och kliniska prövningar Intelligence. Tillgång här.
- Källa: https://www.darkreading.com/vulnerabilities-threats/how-ai-shaping-future-cybercrime
- : har
- :är
- :var
- 1
- 2022
- 2023
- 2024
- 400
- a
- Om oss
- tillgång
- olycka
- Konto
- Redovisning
- konton
- tvärs
- lagt till
- adress
- Fördel
- kontradiktoriskt
- mot
- framåt
- AI
- AI-modeller
- AI-system
- också
- an
- och
- visas
- ÄR
- konstgjord
- artificiell intelligens
- Konstgjord intelligens (AI)
- AS
- At
- attackera
- Attacker
- försök
- försök
- Försök
- myndighet
- Automatiserad
- tillgänglig
- undvika
- undvek
- bort
- tillbaka
- Badrum
- Bank
- Baslinje
- BE
- därför att
- blir
- varit
- innan
- beteende
- Där vi får lov att vara utan att konstant prestera,
- tros
- Bättre
- lyft
- överträdelser
- men
- by
- Ring
- Uppringare
- KAN
- Kanada
- Canadian
- kandidat
- bil
- bära
- bär
- Kontanter
- centrala
- vD: ar
- Kaos
- avgifter
- chatbot
- chatbots
- ChatGPT
- chicago
- hävdar
- cloud
- kollega
- bekämpa
- kombination
- vanligen
- kommunicera
- Kommunikation
- Trygghet i vårdförloppet
- Bidragande
- kontroll
- kontroversiell
- övertygad
- kunde
- land
- Par
- skapas
- skapar
- Skapa
- kund
- Kundservice
- Helpdesk
- cyber
- cyberattack
- cyberbrottslighet
- IT-KRIMINELL
- nätbrottslingar
- Cybersäkerhet
- dalls
- datum
- dag
- Dechiffrera
- Försvar
- Avdelning
- upptäcka
- Detektering
- utveckla
- utvecklare
- utveckla
- olika
- do
- drivande
- Tidig
- lättare
- Effektiv
- effektivt
- Äldre
- Val
- utslagen
- e
- Teknik
- Engelska
- fel
- Eter (ETH)
- Även
- händelse
- Varje
- varje dag
- exempel
- existerar
- förvänta
- förväntat
- experter
- utnyttja
- Ögon
- vänd
- fejka
- falsk
- familj
- Februari
- få
- fält
- bekämpa
- företag
- För
- Prognos
- förr
- former
- fyra
- Fjärde
- bedrägeri
- bedräglig
- vän
- från
- Fuller
- framtida
- få
- GAN
- generera
- genereras
- generativ
- generativa adversariella nätverk
- Generativ AI
- Generatorn
- skaffa sig
- få
- god
- Regeringen
- Grammatik
- Hackaren
- hackare
- hade
- lämnandet
- hänt
- Har
- he
- Rubrik
- Held
- hjälpa
- hjälper
- här.
- hans
- Hur ser din drömresa ut
- html
- HTTPS
- humant
- Hurt
- identifiera
- identifiera
- Identitet
- if
- förbättringar
- in
- Öka
- ökande
- Indikator
- individer
- industrin
- branschexperter
- påverka
- informationen
- Intelligens
- in
- isn
- IT
- fängelse
- jpg
- bara
- Ha kvar
- Snäll
- känd
- KPMG
- liggande
- språk
- Large
- till stor del
- Efternamn
- lansera
- LÄRA SIG
- legitim
- mindre
- hävstångs
- tycka om
- sannolikt
- LINK
- läge
- log
- Lång
- se
- ser ut som
- förlorat
- Huvudsida
- större
- göra
- skadlig
- förvaltade
- många
- MDR
- medlem
- meddelanden
- MidJourney
- modell
- modeller
- pengar
- mer
- mycket
- Behöver
- behövs
- nätverk
- neural
- neurala nätverk
- Nya
- nyheter
- Nästa
- natt
- normala
- normalt
- nu
- of
- tjänsteman
- on
- öppning
- or
- organisationer
- ursprungliga
- Övriga
- ut
- över
- egen
- ägaren
- Fred
- Tidigare
- mönster
- paul
- perfekt
- personlig
- Nätfiske
- phishingattacker
- Plats
- plattform
- plato
- Platon Data Intelligence
- PlatonData
- Spelaren
- policy
- dålig
- Populära
- popularitet
- utgör
- besitter
- Möjligheterna
- posted
- potentiellt
- Power
- Förutsägelser
- Förbered
- pretty
- tidigare
- primär
- förmodligen
- ge
- Kvartal
- snabbt
- snabbt
- RE
- läsare
- verklig
- mottagna
- mottagande
- relevanta
- avlägsnas
- rapport
- begära
- respons
- svar
- borrad
- Rise
- s
- säger
- säger
- Bedragare
- bedrägerier
- säkerhet
- se
- sett
- ser
- sända
- känslig
- service
- Tjänster
- bosätta sig
- formning
- visar
- eftersom
- webbplats
- himmel
- Social hållbarhet
- Samhällsteknik
- Samhället
- Mjukvara
- Programutvecklare
- enbart
- någon
- något
- sofistikerade
- raffinemang
- Källa
- stavning
- spent
- Spot
- stadier
- starta
- Fortfarande
- Historia
- sådana
- stödja
- misstänksam
- system
- System
- T
- Ta
- tar
- lag
- teknisk
- Tekniken
- Teknologi
- än
- den där
- Smakämnen
- Framtiden
- stölder
- deras
- Dem
- sig själva
- sedan
- Dessa
- de
- Tänk
- detta
- de
- tusentals
- hot
- hot
- tre
- tid
- till
- tog
- verktyg
- verktyg
- Utbildning
- betrodd
- två
- Uk
- Brittiska regeringen
- under
- förståelse
- oönskad
- Användning
- användning
- Begagnade
- Användare
- användare
- med hjälp av
- vanliga
- olika
- offer
- Video
- visningar
- praktiskt taget
- Röst
- volym
- Sårbara
- plånbok
- var
- var inte
- sätt
- we
- begav sig
- były
- Vad
- när
- som
- medan
- bred
- kommer
- med
- dra tillbaka
- Arbete
- skulle
- skriva
- X
- år
- år
- zephyrnet