Da künstliche Intelligenz es zunehmend erschwert, Fakten von Fälschungen zu unterscheiden, hat die Dubai Police gewarnt, dass Deepfakes eine wachsende Bedrohung darstellen könnten – nicht nur durch die Verbreitung von Falschinformationen, sondern auch, weil sie Menschen dazu bringen, Echtes infrage zu stellen.

Eine neue Studie des Future Foresight Centre der Dubai Police zeigt, wie realistische KI-generierte Videos, Bilder und Stimmen die digitale Sicherheit verkomplizieren, das Vertrauen in Online-Informationen untergraben und die Überprüfung von Beweismitteln in Ermittlungen erschweren könnten.

Die Herausforderung, so warnt die Studie, könnte bald über das Erkennen gefälschter Inhalte hinausgehen und den Nachweis erfordern, dass echte Fotos, Videos und Audioaufnahmen nicht manipuliert wurden.

Fortschritte bei der generativen KI erleichterten es, menschliche Gesichter und Stimmen nachzubilden und überzeugende Video- und Audioaufnahmen zu erstellen, sagte Brigadegeneral Dr. Hamdan Ahmad Hamdan Al Ghassiya, Direktor des Future Foresight Centre der Dubai Police.

Diese Fähigkeiten könnten für Identitätsdiebstahl, Identitätsbetrug, Betrug und die gezielte Verbreitung irreführender Informationen missbraucht werden und Risiken für Einzelpersonen, Unternehmen und Sicherheitsbehörden schaffen.

Die Folgen könnten sich auch auf Ermittlungen und wichtige Entscheidungen erstrecken, die auf digitalen Beweisen beruhen. Je ausgefeilter manipulierte Inhalte werden, desto schwieriger könnte es werden, die Echtheit einer Aufnahme zu überprüfen.

(Quelle: Khaleej Times)