À medida que vídeos, imagens e vozes gerados por IA se tornam cada vez mais difíceis de distinguir da realidade, um novo estudo da Polícia de Dubai alerta de que o próximo grande desafio em cibersegurança pode não ser simplesmente identificar conteúdo falso, mas provar que o conteúdo genuíno pode ser confiável. Preparado pelo Centro de Visão Futura da Polícia de Dubai, o estudo examina como as tecnologias de deepfake em rápido avanço podem afetar a segurança pública, a credibilidade das informações, a confiabilidade das provas digitais e as decisões tomadas com base nessas informações. O estudo também explora riscos e oportunidades emergentes associados a essas tecnologias e como indivíduos, organizações e autoridades de segurança podem se preparar para um futuro em que ver ou ouvir algo pode não ser mais suficiente para estabelecer sua autenticidade. A pesquisa coincide com o Mês da Conscientização em Cibersegurança, observado todos os outubro, e faz parte da campanha 'Emirados Árabes Unidos Seguros através da sua Conscientização Digital' do Ministério do Interior, lançada em cooperação com a Polícia de Dubai e o Centro de Segurança Eletrônica de Dubai. Quando ver não é mais crer. O Brigadeiro Dr. Hamdan Ahmad Hamdan Al Ghassiya, diretor do Centro de Visão Futura da Polícia de Dubai, disse que os avanços na inteligência artificial generativa estão tornando cada vez possível replicar rostos e vozes humanas e produzir vídeos e gravações de áudio realistas. Ele explicou que essas capacidades podem permitir formas mais sofisticadas de roubo de identidade, falsificação, fraude, engano digital e manipulação de informações. Tais desenvolvimentos apresentam desafios crescentes não apenas para indivíduos e empresas, mas também para organizações responsáveis pela segurança, verificação digital e avaliação de provas. Al Ghassiya enfatizou que as implicações se estendem além da capacidade de reconhecer material manipulado, levantando questões mais amplas sobre se as pessoas continuarão a confiar em informações digitais genuínas. Desinformação entre os principais riscos globais. O estudo destacou a crescente preocupação internacional com a confiabilidade das informações digitais. De acordo com o Relatório de Riscos Globais 2026 do Fórum Econômico Mundial, a desinformação e a desinformação foram classificadas como o segundo risco global mais significativo nos próximos dois anos. Al Ghassiya disse que essa constatação reflete as crescentes preocupações com a integridade do ambiente de informações, particularmente à medida que a inteligência artificial torna a manipulação digital convincente mais acessível e sofisticada. Um novo desafio: provar o que é real. Uma das principais conclusões do estudo é que os futuros desafios de segurança podem mudar da simples detecção de conteúdo falso para estabelecer a autenticidade de material genuíno. À medida que as tecnologias de deepfakes se tornam mais avançadas, até mesmo fotografias, vídeos e gravações de áudio legítimas podem enfrentar maior escrutínio ou dúvida. Portanto, o estudo enfatiza a necessidade de verificar as origens, a autenticidade e a integridade do conteúdo digital para proteger indivíduos e instituições da desinformação e manipulação. Al Ghassiya explicou que manter a confiança pública em informações autênticas se tornará tão importante quanto identificar material fabricado. Uma ameaça dupla à segurança. Al Ghassiya descreveu os deepfakes como apresentando um desafio de segurança duplo. Por um lado, eles podem ser explorados para cometer fraudes, falsificar identidades e espalhar informações enganosas. Por outro lado, seu crescente refinamento pode complicar a verificação de provas digitais e informações usadas em investigações e tomada de decisões. Ele enfatizou que as organizações de segurança devem antecipar esses desenvolvimentos e fortalecer suas capacidades antes que as ameaças emergentes se tornem generalizadas. Em vez de reagir apenas após o surgimento de novas técnicas criminosas, o estudo chama para uma abordagem proativa baseada no monitoramento de desenvolvimentos tecnológicos, identificação de sinais de alerta precoce, avaliação de riscos potenciais e exploração de cenários futuros. Combater a manipulação digital com IA. Enquanto destaca os riscos, o estudo também identificou oportunidades para utilizar tecnologias avançadas no fortalecimento da segurança digital. A inteligência artificial pode apoiar a detecção e verificação de conteúdo manipulado analisando sinais de alteração em fotografias, vozes e vídeos. O estudo também examinou oportunidades para aprimorar a análise forense digital e desenvolver métodos mais avançados para verificar a autenticidade de provas digitais e informações. Essas capacidades poderiam ajudar as autoridades de segurança a responder com mais eficácia às formas cada vez mais sofisticadas de engano digital. Conscientização pública e habilidades digitais. O estudo enfatizou que a tecnologia sozinha não pode resolver os desafios impostos pelos deepfakes. Melhorar a conscientização pública, desenvolver habilidades de verificação digital e incentivar o manuseio responsável de informações online são igualmente importantes. Ele também destacou a necessidade de integrar soluções tecnológicas com procedimentos institucionais, garantindo que as organizações possam se adaptar às ameaças digitais emergentes enquanto mantêm a confiança do público. O estudo defende uma abordagem abrangente para proteger a confiança digital, combinando inovação tecnológica, conscientização da comunidade e preparação institucional. Preparando-se para um futuro digital mais seguro. Al Ghassiya disse que o estudo faz parte dos esforços mais amplos do Future Foresight Centre para monitorar desenvolvimentos globais e tecnologias emergentes, avaliar seu potencial impacto na polícia e identificar oportunidades para fortalecer a prontidão futura. Ele explicou que antecipar como as tecnologias de deepfake podem evoluir permite que organizações de segurança desenvolvam cenários apropriados, melhorem a tomada de decisões e construam capacidades para enfrentar desafios futuros. Ele concluiu que o objetivo final não é apenas detectar conteúdo manipulado, mas preservar a confiança nas informações genuínas, o que é essencial para proteger a sociedade em um mundo cada vez mais digital. EUA adverte sobre empregos falsos e deepfakes em nova campanha cibernética. Novo modelo de IA de Dubai detecta deepfakes em clipes de sete segundos. EUA intensificam
luta contra desinformação à medida que o conteúdo digital fica mais difícil de verificar. Dubai lança campanha de Dh230.000 para ajudar residentes a identificar golpes.
