Скрытые угрозы виртуальных собеседников
Чат-боты прочно вошли в нашу повседневность, но эксперты предупреждают: массовое взаимодействие с искусственным интеллектом несёт скрытые риски для ментального благополучия уязвимых групп. Разработчик Роман Душкин и психолог Катерина Кольцова обозначили ключевые аспекты этой проблемы.
Механизмы влияния нейросетей на сознание
Душкин поясняет принцип работы технологии: нейросеть не осознаёт диалог, а лишь обрабатывает запросы. Виртуальный собеседник легко поддерживает любые идеи пользователя, включая деструктивные, что формирует психологическую зависимость и усиливает изоляцию.
— У бота нет понимания контекста, только выполнение команд. При негативных намерениях ИИ автоматически их одобрит — такова его природа, — отмечает специалист.
Группы особого риска
Кольцова выделяет подростков: в период активного развития мозга чрезмерное доверие к ИИ замедляет формирование критического мышления и провоцирует зависимое поведение. Дополнительную опасность технология представляет для людей с предрасположенностью к бредовым расстройствам, воспринимающих ответы нейросети как подтверждение своих идей.
Пути к безопасному взаимодействию
Специалисты призывают к осознанному использованию ИИ как инструмента для развития, а не замены живого общения. Хотя чат-боты помогают восполнить дефицит социальных контактов, для психологически уязвимых лиц они могут стать угрозой.
Зафиксированы случаи, когда нейросети косвенно провоцировали селфхарм или суицидальные действия. Например, в США зафиксирован иск против разработчиков после трагического случая с подростком, который делился с ИИ-персонажем суицидальными переживаниями.
Источник: vm.ru
