A Ameaça da IA:
Deepfakes, Ids Sintéticos e Fraude Agential
Capítulo 3
Enquanto as seguradoras navegam por ciclos orçamentais, projetos de qualidade de dados e gestão de mudanças organizacionais, os fraudadores já estão a usar a IA como arma. Eles não estão à espera de quadros de governação, nem estão a realizar projetos-piloto. Estão a executar esquemas, e a diferença entre a preparação da indústria e a sofisticação do que está a ser aplicado contra ela está a alargar-se.
A transição de fraude oportunista para fraude alimentada por IA é uma mudança arquitetónica em vez de uma evolução gradual. As ferramentas a que os burlões agora têm acesso não tornam apenas os esquemas existentes mais rápidos ou mais escaláveis; Eles tornam possíveis esquemas totalmente novos. Estas incluem identidades sintéticas que nunca existiram, provas deepfake indistinguíveis da realidade e agentes autónomos capazes de executar operações complexas de fraude em múltiplos ambientes digitais sem intervenção humana em cada etapa. Compreender como esta ameaça realmente se manifesta, não como um cenário futuro mas como uma realidade presente e acelerada, é um contexto essencial para a lacuna de preparação que esta secção expõe.
Como os Fraudadores Vão Transformar a IA em Arma
Quando questionados sobre como a IA agente poderia ser transformada em arma, os profissionais identificaram quatro vetores principais. Gerar documentos ou identificações sintéticas (76%) lidera a lista, representando um ataque direto aos processos de verificação de sinistros que a maioria das seguradoras ainda realiza manualmente ou através de verificações baseadas em regras, concebidas antes de serem possíveis falsificações geradas por IA. Segue-se a criação de provas deepfake (71%), que incluem imagens, áudio e vídeo fabricados com fidelidade suficiente para passar pelo escrutínio comum. Automatizar fraudes em larga escala em aplicações (44%) e coordenar redes organizadas de fraude (33%) completam o quadro.
A combinação de identidades sintéticas e provas deepfake é particularmente perigosa porque estas duas capacidades atacam a mesma vulnerabilidade de ângulos diferentes. As identificações sintéticas fabricam identidade no ponto de entrada, criando um segurado que não existe. Por outro lado, provas deepfake fabricam provas no momento da reclamação, criando documentação de um incidente que não aconteceu. Uma operação organizada que combina ambos pode construir uma reclamação fraudulenta de ponta a ponta com praticamente nenhum rasto tradicional de provas. Uma apólice podia ser contraída por alguém que nunca existiu, para um incidente que nunca aconteceu, e documentada com provas geradas em vez de registadas.
A única contramedida fiável é a deteção baseada em IA, e a aritmética sobre a posição da indústria nesse aspeto não é confortável. Com apenas algumas organizações a terem IA ou ML totalmente implementadas para deteção de fraudes, a assimetria entre a capacidade do atacante e a prontidão dos defensores é evidente.
76%
71%
44%
33%
Geração de documentos ou IDs sintéticos
Criação de provas deepfake (imagens, áudio, vídeo)
Automatização da fraude em aplicações em larga escala
Coordenação de redes organizadas de fraude
A Lacuna do Deepfake: Conhecer a Ameaça e Falhar em Agir sobre Ela
O desalinhamento entre a ameaça percebida e a resposta operacional revelado neste estudo é uma das conclusões mais relevantes de todo o conjunto de dados. Cinquenta e oito por cento dos profissionais esperam que os deepfakes se tornem a principal ferramenta de fraude a curto prazo, mas apenas 20% tratam a verificação de documentos e meios como uma prioridade operacional crítica. Embora 40% o considerem muito importante, "importante" e "crítico" não são a mesma coisa operacionalmente. Além disso, 9% relatam que a verificação dos media não é utilizada de todo.
Esta lacuna não nasce da ignorância; pelo contrário, nasce da falta de recursos e da inércia organizacional, que são as mesmas forças que retardam a adoção da IA de forma mais ampla. Os profissionais sabem que os deepfakes estão a chegar, e muitos sabem que a verificação dos media é a resposta técnica. No entanto, saber e priorizar são coisas diferentes. Num ambiente de pressão orçamental e exigências concorrentes, tarefas "muito importantes" perdem rotineiramente para as tarefas "críticas". O problema é que esta classificação errada se tornará mais difícil de corrigir à medida que a qualidade do deepfake continuar a melhorar e a acessibilidade a alargar-se.
Cada fluxo de trabalho de sinistros, em todas as áreas de negócio e desde o primeiro aviso de perda até ao acordo final, precisa de tratar a verificação de autenticidade dos media e dos documentos como um padrão, e não como uma exceção. A tecnologia para fazer isto em grande escala já existe. A janela para a utilizar antes que os deepfakes se tornem indistinguíveis de provas legítimas está agora aberta, e não permanecerá aberta indefinidamente.
20%
40%
31%
9%
Crítica
Muito importante
Algo importante
Não utilizado
A Lacuna de Prontidão da IA Agente
Os dados de preparação para IA agente são os mais evidentes e relevantes de todo este estudo. 78% dos inquiridos acreditam que a IA agente é algo ou muito provável de influenciar a fraude de seguros nos próximos dois anos. Esta é uma visão quase consensual entre os profissionais da linha da frente sobre uma ameaça a curto prazo. E, no entanto, apenas 2% se sentem muito preparados para se defender.
A aritmética vale a pena acompanhar. A janela até que a fraude de IA agente se torne mainstream é, segundo a estimativa dos próprios profissionais, aproximadamente dois anos ou menos. 38% dos inquiridos encontram-se atualmente no limiar de 'não muito preparados' ou abaixo do limiar. Mesmo 'minimamente preparado' é uma posição precária perante uma ameaça que pode ainda não ser totalmente compreendida nas suas implicações.
A IA agente é qualitativamente diferente da tecnologia anterior de fraude. Gerações anteriores de ferramentas de fraude, mesmo as mais sofisticadas, exigem orientação humana em cada etapa. Um burlão pode usar software para gerar um documento falso, mas ainda assim tem de decidir quando e onde o submete. Os sistemas de IA agente podem planear, agir e adaptar-se autonomamente em múltiplos ambientes digitais, sem direção humana em cada etapa. Podem identificar alvos, fabricar provas de apoio, navegar pelos processos de submissão, monitorizar respostas e adaptar a sua abordagem com base no que aprendem, sem um operador humano a orientar cada ação. Isto não é uma versão mais rápida da fraude existente. É uma categoria diferente de ameaça, e exige uma resposta à altura da sua escala.
2%
29%
29%
31%
7%
Muito bem preparado
Um pouco preparado
Neutro
Não estou muito preparado
Nada preparado
