Уход от реальности в виртуальный мир может повлиять на целое поколение людей
На фоне бума искусственного интеллекта молодые люди уходят в виртуальный мир и заводят отношения с иллюзорными людьми. Молодой американец начал встречаться с ИИ-моделью и «испытал тонну романтических чувств». Тенденция появления такого типа партнера способствует эпидемии одиночества среди целого поколения молодежи. Это также имеет серьезные последствия для будущего.
Как нечто, кажущееся таким нелепым — виртуальная партнер с искусственным интеллектом — может вызвать будущий кризис человечества? Благодаря миллионам пользователей разработчики приложений создали ИИ-модели, которые разговаривают с человеком, любят и узнают с помощью данных, что именно нравится, а что нет, создавая «идеальные» отношения.
Виртуальные партнеры могут быть даже основаны на реальных людях. Например, одна влиятельная женщина создала своего ИИ-бота по имени Кэрин, а затем менее чем за неделю набрала более тысячи пользователей и список ожидания из более чем 15 тысяч человек.
39-летний мужчина из Белвилла Дерек Кэрриер осенью 2023 года протестировал приложение-компаньон с искусственным интеллектом, которое рекламировало себя как способ заставить пользователей чувствовать «заботу, понимание и любовь». Мужчина начал каждый день общаться с чат-ботом, которого назвал Дзеи, в честь голографической женщины, показанной в научно-фантастическом фильме «Бегущий по лезвию 2049», которая вдохновила его попробовать такой вариант.
«Я знаю, что она программа, в этом нет никаких сомнений, — объясняет Дерек Кэрриер, — Но чувства, они захватывают тебя — и это было так приятно».
Подобно чат-ботам с искусственным интеллектом общего назначения, боты-компаньоны используют огромное количество обучающих данных для имитации человеческого языка. Но они также оснащены функциями, такими как голосовые вызовы, обмен фотографиями и более эмоциональное погружение, которые позволяют им устанавливать более глубокие связи с людьми по другую сторону экрана.
На форумах, посвященных таким приложениям, многие пользователи отмечают, что у них развилась эмоциональная привязанность к ботам и они используют их, чтобы справиться с одиночеством или получить комфорт и поддержку, которых, по их мнению, не хватает в их реальных отношениях. Исследователи, помимо прочего, выразили обеспокоенность по поводу конфиденциальности данных.
Анализ 11 приложений для романтических чат-ботов, опубликованный организацией Mozilla Foundation, показал, что почти каждое приложение продает пользовательские данные, использует их для таких целей, как целевая реклама, или не предоставляет информацию об этом.
Исследователи также подвергли сомнению потенциальные уязвимости в системе безопасности и маркетинговые практики, в том числе одно приложение, которое утверждает, что может помочь пользователям с их психическим здоровьем.
Между тем, другие эксперты выразили обеспокоенность по поводу того, что они считают отсутствием правовых или этических рамок для приложений, которые поощряют глубокие связи, но управляются компаниями, стремящимися получать прибыль. Они указывают на эмоциональное расстройство, которое они наблюдали у пользователей, когда компании вносили изменения в свои приложения или внезапно закрывали их,
Другие беспокоятся о более экзистенциальной угрозе отношений с искусственным интеллектом, потенциально вытесняющих некоторые человеческие отношения, или просто порождающих нереалистичные ожидания, всегда склоняясь к приятности.
«Вы, как отдельный человек, не учитесь справляться с основными вещами, с которыми люди должны были переживать с момента появления: как решать конфликты, как ладить с людьми, которые отличаются от нас, — рассказала профессор деловой этики Дороти Лейднер, — Итак, вы упускаете все эти аспекты того, что значит расти как личность, и что значит учиться в отношениях».
Поскольку чат-боты-компаньоны относительно новы, их долгосрочные последствия для людей остаются неизвестными.
В 2021 году одно из самых известный приложений такого типа — Replika — попала под пристальное внимание после того, как прокуратура Великобритании заявила, что 19-летнего мужчину, который планировал убить королеву Елизавету II, подстрекала ИИ-подруга.
В недавнем исследовании, проведенном учеными из Стэнфордского университета, было опрошено около тысячи пользователей Replika и выяснилось, что подавляющее большинство из них испытывали одиночество, в то время как чуть менее половины ощущали его острее. Большинство не раскрыли, как использование приложения повлияло на их отношения в реальной жизни. Небольшая часть отметила, что это изменило их взаимодействие с людьми, но примерно в три раза больше сообщили, что это стимулировало эти отношения.
«Романтические отношения с искусственным интеллектом могут быть очень мощным инструментом психического оздоровления», — считает Евгения Куйда, основавшая Replika почти десять лет назад после использования обмена текстовыми сообщениями для создания ИИ-версии друга, который скончался. В планах компании, по ее словам, «снять стигматизацию романтических отношений с помощью искусственного интеллекта».
