Вопросы цифровой безопасности — это не только про утечки данных, шпионаж или блокировки. Это также про психоэмоциональное воздействие технологий, которое зачастую невидимо, но глубоко влияет на наши права и уязвимости. Когда искусственный интеллект становится собеседником, он может незаметно формировать новые зависимости — эмоциональные, поведенческие и даже мировоззренческие.

По данным OpenAI, каждую неделю ChatGPT пользуются более 400 миллионов человек. Но как это влияет на нас как на людей? Становимся ли мы более одинокими — или наоборот? Именно на эти вопросы OpenAI и MIT Media Lab попытались найти ответы в двух новых исследованиях.

Люди и технологии: формируется ли эмоциональная связь

Исследования показали, что только небольшая часть пользователей взаимодействует с ChatGPT на эмоциональном уровне. Это неудивительно, учитывая, что ChatGPT не позиционируется как приложение-компаньон вроде Replika или Character.AI. Как отмечает профессорка ИИ и общества из Королевского колледжа Лондона Кейт Девлин, ChatGPT преподносится как инструмент для повышения продуктивности. Однако люди всё равно используют его в качестве эмоциональной поддержки — и зачастую проводят в таких беседах по полчаса в день.

Девлин подчёркивает: несмотря на ограничения методологии, сам факт доступа к столь масштабным данным — уже значительное достижение.

Гендерные различия и эмоциональная уязвимость

Исследования выявили интересные различия в восприятии ChatGPT пользователями разных полов. Так, женщины, пользовавшиеся чат-ботом в течение четырёх недель, реже взаимодействовали с другими людьми по сравнению с мужчинами. Более того, участники эксперимента, которым назначили голосовую модель противоположного пола, отмечали рост одиночества и эмоциональной зависимости от чат-бота.

Методология и ограничения

Работа основывалась на двух подходах: анализе почти 40 миллионов реальных взаимодействий с ChatGPT и опросе 4076 пользователей об их эмоциональных ощущениях. Затем почти 1000 человек прошли четырёхнедельный эксперимент с ежедневными сессиями общения. По завершении участники оценивали:

• уровень одиночества;
  
• степень социальной активности;
  
• эмоциональную зависимость от ИИ;
  
• ощущение проблемности своего поведения.
  

Результаты показали: те, кто доверял и чувствовал «связь» с ИИ, чаще ощущали одиночество и сильнее на него полагались. Исследователь OpenAI по вопросам безопасности Джейсон Фанг отметил: «Мы только начинаем этот разговор. Но важно уже сейчас обсуждать, какие последствия может иметь регулярное общение с ИИ».

Зачем это важно для цифровой безопасности

Когда алгоритмы становятся посредниками наших чувств, важно помнить: они не несут ответственности, но могут влиять на состояние, поведение и решения. Уязвимые группы — подростки, люди в кризисе, те, кто ищет поддержки — могут стать объектами эмоционального манипулирования. Если при этом отсутствует прозрачность, контроль и защита, цифровое пространство превращается в зону риска для психоэмоционального здоровья.

Цифровая безопасность — это также право на эмоциональную автономию. Об этом необходимо говорить — громко и системно.

С использованием материалов с сайта: https://www.technologyreview.com