COMENTÁRIO
Como especialistas em segurança cibernética previsto há um ano, a inteligência artificial (IA) tem sido um ator central no cenário do crime cibernético em 2023, impulsionando um aumento de ataques e, ao mesmo tempo, contribuindo para melhorias na defesa contra ataques futuros. Agora, rumo a 2024, especialistas de todo o setor esperam que a IA exerça ainda mais influência na segurança cibernética.
A Previsão de segurança cibernética do Google Cloud para 2024 vê a IA generativa e os grandes modelos de linguagem contribuindo para um aumento em várias formas de ataques cibernéticos. Mais de 90% dos CEOs canadenses em uma pesquisa da KPMG acho que a IA generativa os tornará mais vulneráveis a violações. E um relatório do governo do Reino Unido diz que a IA representa um ameaça às próximas eleições do país.
Embora as ameaças relacionadas com a IA ainda estejam numa fase inicial, o volume e a sofisticação dos ataques impulsionados pela IA aumentam todos os dias. As organizações precisam se preparar para o que está por vir.
4 maneiras pelas quais os cibercriminosos estão aproveitando a IA
Existem quatro maneiras principais pelas quais os adversários usam ferramentas de IA comumente disponíveis, como ChatGPT, Dall-E e Midjourney: ataques automatizados de phishing, ataques de personificação, ataques de engenharia social e chatbots falsos de suporte ao cliente.
Os ataques de spear-phishing estão recebendo um grande impulso da IA. No passado, era mais fácil identificar tentativas de phishing apenas porque muitas estavam repletas de erros gramaticais e ortográficos. Leitores mais exigentes poderiam detectar essa comunicação estranha e não solicitada, presumindo que provavelmente foi gerada em um país onde o inglês não é o idioma principal.
O ChatGPT praticamente eliminou a denúncia. Com a ajuda do ChatGPT, um cibercriminoso pode escrever um e-mail com gramática perfeita e uso do inglês, no idioma de uma fonte legítima. Os cibercriminosos podem enviar comunicações automatizadas que imitam, por exemplo, uma autoridade de um banco solicitando que os usuários façam login e forneçam informações sobre suas contas 401(k). Quando um usuário clica em um link para começar a fornecer informações, o hacker assume o controle da conta.
Quão popular é esse truque? O SlashPróximo Relatório sobre o estado do phishing de 2023 atribuiu um aumento de 1,265% em e-mails de phishing maliciosos desde o quarto trimestre de 2022, em grande parte a ataques direcionados compromissos de e-mail comercial usando ferramentas de IA.
Ataques de personificação também estão em ascensão. Usando o ChatGPT e outras ferramentas, os golpistas se fazem passar por indivíduos e organizações reais, realizando roubos de identidade e fraudes. Assim como acontece com os ataques de phishing, eles usam chatbots para enviar mensagens de voz fingindo ser um amigo, colega ou membro da família de confiança, na tentativa de obter informações ou acesso a uma conta.
Um exemplo ocorreu em Saskatchewan, Canadá, no início de 2023. Um casal de idosos recebeu uma ligação de alguém se passando por seu neto, alegando que ele havia sofrido um acidente de carro e estava detido na prisão. A pessoa que ligou contou a história de que havia se ferido, perdido a carteira e precisava de US$ 9,400 em dinheiro para fazer um acordo com o proprietário do outro carro e evitar acusações. Os avós foram ao banco sacar o dinheiro, mas evitaram ser enganados quando um funcionário do banco os convenceu de que o pedido não era legítimo.
Embora os especialistas do setor acreditassem que esse uso sofisticado da tecnologia de clonagem de voz por IA se desenvolveria em alguns anos, poucos esperavam que ela se tornasse tão eficaz tão rapidamente.
Os cibercriminosos estão usando o ChatGPT e outros chatbots de IA para realizar ataques de engenharia social que fomentam o caos. Eles usam uma combinação de clonagem de voz e tecnologia deepfake para fazer parecer que alguém está dizendo algo incendiário.
Isso aconteceu na noite anterior à eleição para prefeito de Chicago, em fevereiro. Um hacker criou um vídeo deepfake e postou no X, anteriormente conhecido como Twitter, mostrando o candidato Paul Vallas supostamente fazendo comentários falsos e incendiários e divulgando pontos de vista políticos controversos. O vídeo gerou milhares de visualizações antes de ser removido da plataforma.
A última tática, chatbots falsos para atendimento ao cliente, existem, mas provavelmente ainda faltam um ou dois anos para ganharem grande popularidade. Um site bancário fraudulento pode ser criado usando um chatbot de atendimento ao cliente que parece humano. O chatbot pode ser usado para manipular vítimas inocentes para que forneçam informações pessoais e de contas confidenciais.
Como a segurança cibernética está reagindo
A boa notícia é que a IA também está sendo usada como ferramenta de segurança para combater golpes conduzidos por IA. Aqui estão três maneiras pelas quais a indústria de segurança cibernética está reagindo.
Desenvolvendo sua própria IA adversária
Essencialmente, trata-se de criar uma “IA boa” e treiná-la para combater a “IA má”. Desenvolvendo suas próprias redes adversárias generativas (GANs), as empresas cibernéticas podem aprender o que esperar no caso de um ataque. As GANs consistem em duas redes neurais: um gerador que cria novas amostras de dados e um discriminador, que distingue as amostras geradas das amostras originais.
Usando essas tecnologias, as GANs podem gerar novos padrões de ataque que se assemelham aos padrões de ataque vistos anteriormente. Ao treinar um modelo sobre estes padrões, os sistemas podem fazer previsões sobre o tipo de ataques que podemos esperar ver e as formas como os cibercriminosos estão a explorar essas ameaças.
Detecção de anomalia
Isso é compreender a base do que é o comportamento normal e então identificar quando alguém se desvia desse comportamento. Quando alguém faz login em uma conta de um local diferente do normal ou se o departamento de contabilidade usa misteriosamente um sistema PowerShell normalmente usado por desenvolvedores de software, isso pode ser um indicador de um ataque. Embora os sistemas de segurança cibernética usem esse modelo há muito tempo, o poder tecnológico adicional que os modelos de IA possuem pode sinalizar com mais eficácia mensagens potencialmente suspeitas.
Resposta de detecção
Usando sistemas de IA, ferramentas e serviços de segurança cibernética, como detecção e resposta gerenciada (MDR), podem detectar melhor ameaças e comunicar informações sobre elas às equipes de segurança. A IA ajuda as equipes de segurança a identificar e lidar mais rapidamente com ameaças legítimas, recebendo informações sucintas e relevantes. Menos tempo gasto na busca de falsos positivos e na tentativa de decifrar logs de segurança ajuda as equipes a lançar respostas mais eficazes.
Conclusão
As ferramentas de IA estão a abrir os olhos da sociedade para novas possibilidades em praticamente todos os campos de trabalho. À medida que os hackers aproveitam ao máximo as tecnologias de grandes modelos de linguagem, a indústria precisará acompanhar o ritmo para manter a ameaça da IA sob controle.
- Conteúdo com tecnologia de SEO e distribuição de relações públicas. Seja amplificado hoje.
- PlatoData.Network Gerativa Vertical Ai. Capacite-se. Acesse aqui.
- PlatoAiStream. Inteligência Web3. Conhecimento Amplificado. Acesse aqui.
- PlatãoESG. Carbono Tecnologia Limpa, Energia, Ambiente, Solar, Gestão de resíduos. Acesse aqui.
- PlatoHealth. Inteligência em Biotecnologia e Ensaios Clínicos. Acesse aqui.
- Fonte: https://www.darkreading.com/vulnerabilities-threats/how-ai-shaping-future-cybercrime
- :tem
- :é
- :onde
- 1
- 2022
- 2023
- 2024
- 400
- a
- Sobre
- Acesso
- acidente
- Conta
- Contabilidade
- Contas
- em
- adicionado
- endereço
- Vantagem
- adversarial
- contra
- à frente
- AI
- Modelos de IA
- Sistemas de IA
- tb
- an
- e
- aparece
- SOMOS
- artificial
- inteligência artificial
- Inteligência artificial (AI)
- AS
- At
- ataque
- Ataques
- tentativa
- tentando
- Tentativas
- autoridade
- Automatizado
- disponível
- evitar
- evitou
- longe
- em caminho duplo
- Mau
- Bank
- Linha de Base
- BE
- Porque
- tornam-se
- sido
- antes
- comportamento
- ser
- Acredita
- Melhor
- impulsionar
- violações
- mas a
- by
- chamada
- visitante
- CAN
- Localização: Canadá
- canadense
- candidato
- carro
- transportar
- transporte
- dinheiro
- central
- CEOs
- Chaos
- acusações
- chatbot
- chatbots
- ChatGPT
- Chicago
- reivindicando
- Na nuvem
- colega
- combater
- combinação
- geralmente
- comunicar
- Comunicação
- Comunicações
- contribuindo
- ao controle
- controverso
- convencido
- poderia
- país
- Casal
- criado
- cria
- Criar
- cliente
- Atendimento ao Cliente
- Suporte ao cliente
- cibernético
- ataques cibernéticos
- cibercrime
- CIBERCRIMINAL
- cibercriminosos
- Cíber segurança
- dall's
- dados,
- dia
- Decifrar
- Defesa
- Departamento
- descobrir
- Detecção
- desenvolver
- desenvolvedores
- em desenvolvimento
- diferente
- do
- condução
- Cedo
- mais fácil
- Eficaz
- efetivamente
- Idoso
- Eleição
- eliminado
- e-mails
- Engenharia
- Inglês
- erros
- Éter (ETH)
- Mesmo
- Evento
- Cada
- todo dia
- exemplo
- existir
- esperar
- esperado
- especialistas
- explorando
- Olhos
- enfrentando
- falsificação
- falso
- família
- Fevereiro
- poucos
- campo
- combate
- empresas
- Escolha
- Previsão
- Antigamente
- formas
- quatro
- Quarto
- fraude
- fraudulento
- amigos
- da
- Fuller
- futuro
- ganhando
- GANs
- gerar
- gerado
- generativo
- redes adversárias geradoras
- IA generativa
- gerador
- ter
- obtendo
- Bom estado, com sinais de uso
- Governo
- Gramática
- cabouqueiro
- hackers
- tinha
- entrega
- aconteceu
- Ter
- he
- Título
- Herói
- ajudar
- ajuda
- SUA PARTICIPAÇÃO FAZ A DIFERENÇA
- sua
- Como funciona o dobrador de carta de canal
- HTML
- HTTPS
- humano
- Machucar
- identificar
- identificar
- Identidade
- if
- melhorias
- in
- Crescimento
- aumentando
- Indicador
- indivíduos
- indústria
- especialistas da indústria
- influência
- INFORMAÇÕES
- Inteligência
- para dentro
- isn
- IT
- prisão
- jpg
- apenas por
- Guarda
- Tipo
- conhecido
- KPMG
- paisagem
- língua
- grande
- largamente
- Sobrenome
- lançamento
- APRENDER
- legítimo
- menos
- aproveitando
- como
- Provável
- LINK
- localização
- log
- longo
- olhar
- parece
- perdido
- a Principal
- principal
- fazer
- malicioso
- gerenciados
- muitos
- MDR
- membro
- mensagens
- Meio da Jornada
- modelo
- modelos
- dinheiro
- mais
- muito
- você merece...
- necessário
- redes
- Neural
- redes neurais
- Novo
- notícias
- Próximo
- noite
- normal
- normalmente
- agora
- of
- oficial
- on
- abertura
- or
- organizações
- original
- Outros
- Fora
- Acima de
- próprio
- proprietário
- Paz
- passado
- padrões
- Paul
- perfeita
- pessoal
- Phishing
- ataques de phishing
- Lugar
- plataforma
- platão
- Inteligência de Dados Platão
- PlatãoData
- jogador
- Privacidade
- pobre
- Popular
- popularidade
- coloca
- possuir
- possibilidades
- publicado
- potencialmente
- PowerShell
- Previsões
- Preparar
- bastante
- anteriormente
- primário
- provavelmente
- fornecer
- Trimestre
- rapidamente
- rapidamente
- RE
- leitores
- reais
- recebido
- receber
- relevante
- Removido
- Denunciar
- solicitar
- resposta
- respostas
- riscado
- Subir
- s
- dizendo
- diz
- Scammers
- scams
- segurança
- Vejo
- visto
- vê
- enviar
- sensível
- serviço
- Serviços
- resolver
- formação
- mostrando
- desde
- local
- céu
- Redes Sociais
- Engenharia social
- Sociedade
- Software
- Desenvolvedores de software
- unicamente
- Alguém
- algo
- sofisticado
- sofisticação
- fonte
- ortografia
- gasto
- Spot
- Estágio
- começo
- Ainda
- História
- tal
- ajuda
- suspeito
- .
- sistemas
- T
- Tire
- toma
- equipes
- tecnológica
- Tecnologias
- Tecnologia
- do que
- que
- A
- O Futuro
- furtos
- deles
- Eles
- si mesmos
- então
- Este
- deles
- Pensar
- isto
- aqueles
- milhares
- ameaça
- ameaças
- três
- tempo
- para
- levou
- ferramenta
- ferramentas
- Training
- confiável
- dois
- Uk
- Governo do Reino Unido
- para
- compreensão
- Não solicitado
- Uso
- usar
- usava
- Utilizador
- usuários
- utilização
- habitual
- vário
- vítimas
- Vídeo
- visualizações
- praticamente
- voz
- volume
- Vulnerável
- Wallet
- foi
- não era
- maneiras
- we
- fui
- foram
- O Quê
- quando
- qual
- enquanto
- Largo
- precisarão
- de
- retirar
- Atividades:
- seria
- escrever
- X
- ano
- anos
- zefirnet