Интересная работа с ICML 2026 Outstanding Position Paper Honorable Mention. Последняя из пачки призёров ICML, которую я буду разбирать. Борьба с дипфейками решает не ту задачу, от которой реально страдают люди. Все усилия сконцентрированы на подтверждении подлинности, тогда как большинство реальных проблем сейчас находятся в районе вреда для достоинства личности, и никто эту тему не исследует, все работают там где проще со своей бинарной классификацией. Слишком далеки они от народа в своём поиске под фонарём. Position: AI/ML Deepfake Research is Misaligned with AI-Generated Non-Consensual Intimate Imagery (AIG-NCII) __Li Qiwei, Wells Lucas Santo, Sarita Schoenebeck, Eric Gilbert__ Paper: https://openreview.net/forum?id=mLhZzo7BIb Review: https://arxiviq.substack.com/p/icml-2026-position-aiml-deepfake Code: N/A Model: N/A # TL;DR ЧТО сделали: Авторы провели систематический критический анализ современной научной экосистемы в области детекции дипфейков. Они выявили глубокое структурное несоответствие между техническими методами защиты и эмпирической реальностью злоупотребления генеративными моделями. Проанализировав 39 высокоцитируемых работ по защите, исследователи показали: в то время как более половины случаев неправомерного использования коммерческого генеративного ИИ приходится на создание интимных изображений без согласия (AI-Generated Non-Consensual Intimate Imagery, AIG-NCII), технические меры защиты фокусируются почти исключительно на «эпистемическом» вреде для зрителя (дезинформации и мошенничестве), полностью игнорируя вред для достоинства самой личности. ПОЧЕМУ это важно: Эта работа подрывает базовую аксиому современной безопасности ИИ: «подлинность является синонимом безопасности». Авторы доказывают, что публичная маркировка синтетического контента, водяные знаки и подтверждение происхождения не защищают, а в некоторых случаях даже вредят жертвам сексуализированных дипфейков. Это заставляет радикально пересмотреть принципы построения моделей угроз и предлагает ориентир для перехода к проактивной защите достоинства личности. Для практиков: Вместо того чтобы тратить ресурсы на постфактум-детекторы и навешивание плашек «Сгенерировано ИИ», разработчикам и исследователям безопасности стоит сосредоточиться на внедрении «трения» (например, состязательных помех на этапе публикации личных фото) и алгоритмах внутренней модерации на бэкенде. Бороться с реальными рисками тут: https://t.me/gonzo_ML_podcasts/4453