Поскольку искусственный интеллект все больше затрудняет различение фактов и вымысла, полиция Дубая предупредила, что дипфейки могут представлять растущую угрозу не только за счет распространения ложной информации, но и потому, что заставляют людей сомневаться в подлинности реального.

Новое исследование Центра прогнозирования будущего полиции Дубая показывает, как реалистичные видео, изображения и голоса, созданные ИИ, могут осложнить обеспечение цифровой безопасности, подорвать доверие к информации в интернете и затруднить проверку доказательств, используемых в расследованиях.

Как предупреждается в исследовании, вскоре проблема может выйти за рамки выявления поддельного контента и потребовать доказательств того, что подлинные фотографии, видео и аудиозаписи не подвергались манипуляциям.

По словам директора Центра прогнозирования будущего полиции Дубая бригадного генерала д-ра Хамдана Ахмада Хамдана Аль-Гассии, достижения в области генеративного ИИ упрощают воспроизведение человеческих лиц и голосов и создание убедительных видео- и аудиозаписей.

Эти возможности могут использоваться для кражи личных данных, выдачи себя за другое лицо, мошенничества и намеренного распространения вводящей в заблуждение информации, что создает риски для частных лиц, компаний и органов безопасности.

Последствия могут затронуть также расследования и важные решения, основанные на цифровых доказательствах. По мере того как манипулированный контент становится все более изощренным, проверка подлинности записи может становиться все сложнее.

(Источник: Khaleej Times)