С развитием технологий все чаще появляются случаи, когда подростки становятся жертвами дипфейков. В этом году в австралийской школе произошел инцидент, который стал шокирующим примером того, как технологии искусственного интеллекта (ИИ) могут быть использованы для создания насилия в цифровом пространстве.
Около 50 учениц школы стали жертвами дипфейков — поддельных, откровенно сексуальных фотографий, в которых их лица были сшиты с порнографическими изображениями. Эти изображения были распространены в Instagram и Snapchat без их согласия. Этот случай — лишь один из множества примеров того, как дипфейковые изображения и видео могут быть использованы для манипуляции и унижения человеческого достоинства, в особенности подростков.
Читайте наш материал о том как можно противодействовать цифровому насилию.
Содержание
Масштабность проблемы
В 2023 году исследование показало, что несмотря на активное освещение проблемы в СМИ, понятие «deepfake porn» все еще мало известно среди широкой аудитории. В опросе, в котором приняли участие более 16 000 человек из десяти стран, было установлено, что большинство респондент_ок не знали о существовании такой угрозы, но, узнав о ней, поддержали идею криминализации использования дипфейков для создания порно.
В Австралии была зафиксирована самая высокая доля жертв дипфейков среди опрошенных — 3,7%. Кроме того, Австралия занимает лидирующие позиции по числу случаев, когда пользовател_ницы создавали или распространяли дипфейки.
Кто чаще всего становится жертвой
Особенно уязвимыми к этому виду манипуляции становятся женщины и подростки. Исследования показали, что мужчины тоже становятся жертвами дипфейков, но при этом чаще выступают в роли создателей или распространителей такого контента.
Неопытные пользовател_ницы интернета, включая под6ростков, могут легко стать мишенью для таких манипуляций, не осознавая всех последствий. И это проблема, которая требует серьезного внимания как со стороны родителей, так и со стороны образовательных учреждений и законодательных органов.
Как защитить себя от дипфейков
Для тех, кто столкнулся с дипфейковым насилием, существует несколько шагов, которые помогут минимизировать последствия и защитить свои права.
- Сообщить о нарушении в правоохранительные органы.
- Обратиться за помощью. Психологическая поддержка является важным элементом для жертв насилия с использованием поддельных изображений. Поговорите с доверенным человеком или обратитесь к профессионал_ке, котор_ая может помочь справиться с последствиями психологической травмы.
- Цифровой хэш. Служба помощи Revenge Porn Helpline и Meta разработали два цифровых инструмента хеширования для жертв-выживших. Это Stop NCII для взрослых и Take It Down для несовершеннолетних. Эти инструменты позволяют пользовател_ницам по всему миру создать анонимный цифровой хэш (уникальный числовой код) путем сканирования изображения на своем устройстве. Хэш передается компаниям-участникам программы, таким как Facebook, Instagram, Pornhub, TikTok и OnlyFans, чтобы они могли обнаружить и заблокировать соответствующий контент на своих платформах. При этом пользовател_нице не нужно загружать изображение, что гарантирует, что оно останется на устройстве и не будет доступно третьим лицам. Важно учитывать, что эти инструменты не смогут блокировать изображения на платформах, не участвующих в программе. Кроме того, для использования этих инструментов необходимо иметь доступ к самим изображениям.
- Блокировка нарушителей. Если инцидент происходит на платформе социальных сетей, важно заблокировать нарушителей и сообщить о них платформам.
- Повышение безопасности в интернете. Чтобы предотвратить подобные ситуации, важно учить особенно подростков правильно настраивать свои конфиденциальности в социальных сетях и использовать надежные пароли.
Ответственность государства
Законодательство должно быть направлено на защиту личных данных и приватности людей, особенно несовершеннолетних. Важно информировать общество о существующей угрозе, создавать образовательные программы, которые будут направлены на повышение осведомленности о цифровой безопасности.
Читайте наш подробный экспертный обзор о первой мировой попытке законодательного регулирования ИИ.