Alors que l'intelligence artificielle rend de plus en plus difficile la distinction entre les faits et la fabrication, la police de Dubaï a averti que les deepfakes pourraient constituer une menace croissante, non seulement en diffusant de fausses informations, mais aussi en amenant les gens à douter de ce qui est authentique.

Une nouvelle étude du Centre de prospective (Future Foresight Centre) de la police de Dubaï souligne comment des vidéos, images et voix réalistes générées par l'IA pourraient compliquer la sécurité numérique, saper la confiance dans les informations en ligne et rendre plus difficile la vérification des preuves utilisées dans les enquêtes.

Le défi, prévient l'étude, pourrait bientôt aller au-delà de la détection des faux contenus et consister à prouver que des photographies, vidéos et enregistrements audio authentiques n'ont pas été manipulés.

Les progrès de l'IA générative facilitent la reproduction de visages et de voix humains ainsi que la production de vidéos et d'enregistrements audio convaincants, a déclaré le général de brigade Dr Hamdan Ahmad Hamdan Al Ghassiya, directeur du Centre de prospective de la police de Dubaï.

Ces capacités pourraient être exploitées à des fins d'usurpation d'identité, d'imposture, de fraude et de diffusion délibérée d'informations trompeuses, créant des risques pour les particuliers, les entreprises et les autorités de sécurité.

Les conséquences pourraient également s'étendre aux enquêtes et aux décisions importantes reposant sur des preuves numériques. À mesure que les contenus manipulés deviennent plus sophistiqués, vérifier l'authenticité d'un enregistrement pourrait devenir de plus en plus difficile.

(Source : Khaleej Times)