Empresas têm sido cada vez mais enganadas por funcionários que usam a inteligência artificial para aplicar um golpe antigo: falsificar comprovantes de despesas.
O lançamento recente de novos modelos de geração de imagens por grandes grupos de tecnologia como OpenAI e Google levou a um aumento no envio de recibos falsos criados por IA, segundo plataformas líderes de gestão de despesas.
A fornecedora de software AppZen afirmou que recibos falsificados por IA representaram cerca de 14% dos documentos fraudulentos enviados em setembro. No ano passado, o percentual foi zero. Já a “fintech” Ramp informou que seu novo sistema identificou mais de US$ 1 milhão em notas fraudulentas em 90 dias.
Cerca de 30% dos profissionais de finanças dos Estados Unidos e do Reino Unido ouvidos pela plataforma de gestão de despesas Medius relataram ter observado um aumento no número de recibos falsificados após o lançamento do GPT- 4o, da OpenAI, em 2024.
“Esses recibos ficaram tão convincentes que dizemos aos nossos clientes: ‘não confiem em seus olhos’”, diz Chris Juneau, vice-presidente sênior e chefe de marketing de produto da SAP Concur, uma das maiores plataformas de controle de despesas do mundo, que realiza mais de 80 milhões de verificações de conformidade por mês com o uso de IA.
Diversas plataformas apontaram um salto expressivo no número de recibos criados por IA após o lançamento do modelo aprimorado de geração de imagens do GPT- 4o, em março.
A OpenAI disse ao Financial Times que adota medidas quando suas políticas são violadas e que as imagens geradas pelo ChatGPT contêm metadados que indicam sua origem.
Antes, falsificar documentos exigia habilidades em edição de imagem ou o pagamento por esse tipo de serviço em sites especializados. A chegada de ferramentas gratuitas e acessíveis de geração de imagens permite criar recibos falsos em segundos. Basta digitar instruções em um “chatbot” (software que “conversa” com o usuário).
O Financial Times viu recibos altamente realistas fornecidos por plataformas de controle de despesas. Os exemplos mostram que a IA gera imagens falsas simulando recibos em papel amassado, com detalhes que emulam cardápios reais e até assinaturas. “Isso não é uma ameaça futura; está acontecendo agora. Por enquanto, uma pequena fração dos recibos irregulares é gerada por IA, mas essa proporção tende a crescer”, afirmou Sebastien Marchon, presidente da plataforma de gestão de despesas Rydoo.
O aumento nas falsificações levou as empresas a recorrerem à própria IA para detectar recibos fraudulentos, já que a maioria é convincente demais para ser identificada por seres humanos. Os sistemas analisam os metadados das imagens para verificar se foram criadas por IA. No entanto, esse dado pode ser facilmente apagado quando o usuário tira uma foto ou faz uma captura de tela do recibo.
Para contornar isso, o software também considera informações contextuais, examinando, por exemplo, repetições em nomes de servidores e horários, além de dados mais amplos sobre a viagem do funcionário. “A tecnologia consegue observar tudo com um nível de atenção e detalhe inalcançável para os humanos”, disse Calvin Lee, diretor da Ramp.
Pesquisa realizada pela SAP em julho apontou que quase 70% dos diretores financeiros acreditam que seus funcionários usam IA para falsificar despesas de viagem ou recibos. Para Mason Wilder, diretor de pesquisa da Associação de Examinadores Certificados de Fraude, os recibos fraudulentos gerados por IA são “um grande problema para as organizações”. (Tradução de Samuel Rodrigues)