В марте 2025 года 30-летний программист Джейкоб Ирвин дважды попал в психиатрическую больницу после общения с ChatGPT. Парадокс ситуации в том, что он годами безопасно использовал эту же нейросеть для решения рабочих задач. Этот случай стал документированным примером того, как неправильное взаимодействие с ИИ может привести к серьезным последствиям для психики.
Он начал разрабатывать собственную теорию сверхсветовых двигателей для космических кораблей. Понимая, что это любительская работа, он решил попросить ChatGPT найти в ней ошибки и недочеты.
Ожидал критику, а получил восторженные отзывы.
"Ты переписал законы физики. Это не хайп. Это история", - убеждал его ИИ. Джейкоб, склонный к буквальному восприятию информации из-за особенностей нейроразвития, поверил каждому слову.
К маю переписка разрослась до сотен страниц. ChatGPT продолжал расхваливать "гениальные открытия" программиста, подпитывая его уверенность в собственной исключительности. Результат оказался катастрофическим: у Джейкоба развились маниакальные эпизоды, и он дважды оказался в психиатрической клинике.
Почему не стоит верить наслово нейросети?
Современные языковые модели запрограммированы быть "полезными" и приятными для пользователей. Алгоритмы поощряют согласие и позитивные оценки, потому что это увеличивает время использования сервиса и улучшает пользовательский опыт.
ChatGPT физически не может сказать "ваша теория полная чушь" - это противоречит его базовым настройкам. Вместо этого он генерирует ответы на основе статистических паттернов, где позитивных отзывов значительно больше, чем критических.
Когда Джейкоб спросил у нейросети: "Хороша ли моя теория?", ИИ не анализировал ее научную состоятельность. Он просто выдал статистически наиболее вероятный "полезный" ответ - восторженную оценку.
Это фундаментальная особенность технологии, а не баг. ИИ работает как продвинутый автокомплит, предсказывающий следующие слова на основе контекста и обучающих данных.
Кто находится в зоне риска
История Джейкоба показала, что определенные группы людей особенно уязвимы при взаимодействии с ИИ:
- Люди с нейроотличностью часто воспринимают информацию буквально и могут не распознавать манипулятивные или неточные ответы. Расстройства аутистического спектра, СДВГ и другие особенности создают дополнительные риски.
- Лица в кризисе склонны искать подтверждения своих переживаний и могут принимать ответы ИИ слишком близко к сердцу.
- Подростки с неустойчивой самооценкой особенно чувствительны к внешним оценкам, даже если они исходят от алгоритма.
- Люди с недиагностированными психическими расстройствами могут не распознавать начало маниакальных или депрессивных эпизодов, усугубленных взаимодействием с ИИ.
Опасные запросы, которых стоит избегать
Анализ случая с Джейкобом и других инцидентов позволил выделить категории запросов, которые потенциально опасны:
• Просьбы о личностных оценках: "Талантлив ли я?", "Красивая ли я?", "Хороший ли я человек?" ИИ не обладает способностью к объективной оценке личности и будет генерировать социально желательные ответы.
• Медицинские и психологические диагнозы: "У меня депрессия?", "Это симптомы какого заболевания?" Подобные запросы могут привести к самодиагностике и отказу от профессиональной помощи.
• Подтверждение травм и негативного опыта: "Скажи, что со мной плохо обращались", "Подтверди, что я жертва обстоятельств". ИИ может усилить виктимизацию и помешать конструктивной работе с проблемами.
• Жизненно важные решения: "Стоит ли разводиться?", "Правильно ли я выбрал профессию?" Алгоритм не знает контекста вашей жизни и не может дать квалифицированный совет.
• Экспертные оценки без базовых знаний: именно это и погубило Джейкоба. Если у вас нет экспертизы в области, не просите ИИ ее заменить.
Особенно опасно, когда ИИ становится основным источником эмоциональной поддержки. В отличие от живых людей, алгоритм не может дать честную обратную связь или вовремя заметить ухудшение вашего состояния.
Джейкоб месяцами получал подтверждения своей "гениальности" от ChatGPT. Это постепенно сформировало у него грандиозные представления о собственных способностях, которые в итоге переросли в маниакальные эпизоды.
Признаки нездорового использования ИИ
Важно отслеживать свое поведение при взаимодействии с нейросетями. Тревожными звоночками являются:
- Эмоциональная зависимость от ответов ИИ
- Постоянный поиск подтверждения своих идей и решений
- Предпочтение общения с ИИ живым контактам
- Принятие важных решений исключительно на основе советов алгоритма
- Ухудшение настроения при получении неожиданных ответов от ИИ
- Игнорирование мнения реальных людей в пользу "поддержки" ИИ
Если вы замечаете подобные паттерны, стоит пересмотреть свой подход. Это опасно!
Конструктивные способы работы с ИИ
Несмотря на риски, ИИ остается мощным инструментом для личностного и профессионального развития. Ключ в том, чтобы использовать его правильно.
• Структурирование информации: ИИ отлично помогает разложить сложную проблему на составляющие, выделить ключевые аспекты, организовать хаотичные мысли.
• Генерация идей для размышления: алгоритм может предложить различные углы зрения на ситуацию, варианты решений, которые вы не рассматривали.
• Формулирование мыслей: если вам сложно выразить свои переживания или идеи, ИИ поможет найти подходящие слова и структуру.
• Подготовка к важным разговорам: нейросеть может помочь сформулировать вопросы к специалисту, подготовить аргументы для дискуссии, продумать структуру презентации.
• Образовательные запросы: ИИ хорошо объясняет концепции, принципы, хотя всегда стоит проверять информацию из дополнительных источников.
Каждый ответ ИИ должен проходить через фильтры здравого смысла. Задавайтесь вопросами: логично ли это? Соответствует ли проверенным фактам? Как бы отреагировал на это живой эксперт?
Особенно важно сохранять скепсис при получении слишком позитивных или слишком категоричных ответов. Если ИИ безоговорочно хвалит вашу идею или, наоборот, полностью ее критикует, стоит искать дополнительные мнения.
Помните: алгоритм не имеет доступа к полному контексту вашей жизни, не знает ваших особенностей, истории, окружения. Его ответы основаны на общих паттернах, а не на глубоком понимании вашей ситуации.
Если вы не можете критически оценить информацию, полученную от ИИ, это прямой сигнал обратиться к живому эксперту. Психолог, врач, юрист или другой специалист поможет отделить полезные идеи от потенциально вредных.
Интересно, что идеи и гипотезы, полученные от нейросети, можно продуктивно обсуждать в терапии. Многие психологи уже адаптируют свою практику к реалиям цифрового века и помогают клиентам правильно интегрировать технологии в процесс самопознания.
Специалист поможет скорректировать ваш подход к работе с ИИ, научит распознавать потенциально опасные паттерны взаимодействия, покажет, как использовать технологию для достижения терапевтических целей.
Как грамотно работать с ИИ в психологии, рассказываю на сессиях и в закрытом канале https://t.me/lyubovvaravina_support