A Microsoft e a OpenAI publicaram um estudo onde mostram que o ChatGPT é usado por cibercriminosos para melhorar seus golpes. Segundo o estudo, os grupos hackers transformam a IA generativa em um assistente de produtividade para aprimorar seus ataques. Para proteger esse uso indevido do ChatGPT, a OpenAI excluiu as contas ligadas aos cibercriminosos.
Como empresas explicam no estudo que esses grupos de hackers utilizam IA generativa não apenas para melhorar seus malwares. O ChatGPT também é usado para aprimorar as técnicas de phishing e falsificação, práticas nas quais os cibercriminosos utilizam de engenharia social para se passarem por outra pessoa ou por empresa. Essa técnica exige um bom texto para convencer as vítimas e o ChatGPT permite que essas mensagens sejam feitas rapidamente.
Microsoft e OpenAI removem contas de grupos de hackers
Segundo a OpenAI, com a ajuda da Microsoft, as contas de alguns grupos de hackers foram excluídas do serviço do ChatGPT. As empresas alegam que essas contas estão ligadas aos serviços de inteligência de algumas nações: China, Irã, Rússia e Coreia do Norte.
Uma investigação das companhias conseguiu detectar quais foram os usos do ChatGPT por esses cibercriminosos. Em sua maioria, os grupos utilizaram IA generativa para aprimorar scripts e gerar conteúdo para campanhas de phishing. O grupo Forest Blizzard, associado ao órgão de inteligência das forças armadas da Rússia, também usou um IA para analisar códigos abertos de pesquisas por comunicação via satélite.
O ChatGPT possui limitações para evitar que usuários criem malwares ou não utilizem ações negativas. Pelo que a OpenAI e a Microsoft divulgaram, os grupos de hackers contaram com a versão paga da IA. O ChatGPT Plus permite que os clientes utilizem outras ferramentas, como análise e resumo de documentos — a versão grátis entrega apenas a opção de digitar prompts com até 4.000 caracteres.
A Microsoft comenta que, apesar do uso mal intencionado do ChatGPT, nenhum ataque com LLMs foi detectado pela divisão de segurança da empresa.
Com informações: A beira
Microsoft revela que cibercriminosos usam ChatGPT para aprimorar golpes