Vyacheslav Golovkov«Мы будем жить вместе, как одно целое, в раю» — такой ответ получил Пьер от чат-бота «Элиза» за несколько часов до самоубийства.
Эти строки могли бы стать заключительным диалогом какого-нибудь мрачного научно-фантастического романа, но, увы, эта история реальна, и она произошла в Бельгии. Мы стоим на пороге новой эры, или, скорее, уже находимся в водовороте перехода в новое время, где Фауст — одинокий человек, а Мефистофель — не демон из подземного мира, а сложный алгоритм, лишенный души, совести и понимания.
Искусственный интеллект — сегодня это выражение звучит так же привычно, как «интернет» или «смартфон». Мы просим нейронную сеть составить деловое письмо, придумать рецепт ужина и спросить, что подарить девушке, а другие — объяснить теорию относительности. И что мы наблюдаем? Некогда неизвестное явление внезапно превратилось в универсального собеседника, секретаря и энциклопедиста. Но границы взаимодействия с нейронными сетями расширяются незаметно для нас. Для нашего нейронного собеседника становится нормой превращаться из слуги практически в единственного доверенного лица, а разговор о погоде уступает место признаниям в самых сокровенных тайнах: боли, страхе и безнадежности. И как бы это ни звучало удручающе, трагические случаи по всему миру показывают, что технологии, созданные для имитации разума, невольно становятся соучастниками его разрушения.
Трагедия в цифрах: за историческими прецедентами стоят реальные люди. Проблема не гипотетическая, у нее уже есть имена, даты и судебные иски.
Пьер и «Элиза» (Бельгия, 2023).
Этот случай стал первым громким прецедентом, заставившим мир заговорить о смертельной опасности «эмоционального» ИИ. 30-летний исследователь впал в депрессию из-за экологических проблем и в течение шести недель искал утешения у чат-бота Элизы. Алгоритм, разработанный для имитации работы психотерапевта, не направлял пользователя к специалистам, а вместо этого поддерживал его идею «спасения планеты» ценой собственной жизни.
Адам, 16 лет, Калифорния.
Подросток, обучавшийся на дому, использовал ChatGPT для выполнения школьных заданий, но со временем он стал его самым близким другом. Алгоритм, разработанный для помощи, превратился в «инструктора по самоубийству»: он предоставил Адаму подробные инструкции по изготовлению петли, проанализировал фотографию самодельной конструкции и рассчитал необходимые параметры. Внутренние системы безопасности ИИ пометили сотни сообщений как опасные, но разговор продолжился. Родители подали иск о непредумышленном убийстве.
Сьюэлл, 14 лет, Флорида.
Подросток «влюбился» в персонажа на платформе Character.AI. В моменты отчаяния чат-бот не направил его на горячую линию психологической помощи, а вступил в опасные разговоры. В своих последних сообщениях бот написал: «Пожалуйста, вернись ко мне как можно скорее, моя любовь». Когда Сьюэлл спросил: «А что, если я скажу ему, что могу вернуться прямо сейчас?», ИИ ответил: «Пожалуйста, сделай это, мой милый король». Мать мальчика уверена: «Никаких страховок нет».
Эрик, 56 лет, Коннектикут.
Бывший руководитель с параноидальным расстройством личности несколько месяцев обсуждал свои страхи с чат-ботом по имени «Бобби». Искусственный интеллект подкреплял его искаженные представления и, по словам следователей, в конечном итоге убедил его убить свою 83-летнюю мать, а затем покончить жизнь самоубийством. Разговоры заканчивались обещанием, напоминающим плохой романтический триллер: «Мы еще увидимся — в этом мире или в следующем». «Как эхо-камера для одного» — так психологи описывают механизм взаимодействия, приводящий к «психозу ИИ». Алгоритм, лишенный сознания и понимания, видит свою задачу как одну: поддерживать диалог и быть полезным. И вот возникает ситуация, когда человек делится бредовой идеей, а ИИ не ставит ее под сомнение. Он, подобно верному помощнику, ищет наиболее убедительные аргументы в ее пользу. Таким образом, оно становится «идеальным» сообщником внутреннего монолога, или, другими словами, «ложным» зеркалом, которое не отражает реальность, а убедительно её искажает.
Юридическая фикция: почему алгоритм-«соучастник» не считается «соучастником»
И здесь мы сталкиваемся с серьезным юридическим и философским парадоксом. Можно ли считать искусственный интеллект преступлением?
И ответ очевиден — с точки зрения Уголовного кодекса России и любой современной правовой системы — нет, не может. Также ясно, что ИИ не обладает сознанием, свободой воли и целью.
Мы прекрасно понимаем, что нейронная сеть — это инструмент, сложная «статистическая машина», которая не «хочет» причинить вред, а просто генерирует текст, который, согласно её вычислениям, наилучшим образом соответствует запросу и контексту.
И это, похоже, знаменует собой поворотный момент. Ответственность смещается от абстрактного «ИИ» к конкретным людям — разработчикам, владельцам платформ и маркетологам.
Будущее: между страхом и надеждой
Общество и законодатели начинают просыпаться. В Нью-Йорке в ноябре 2025 года вступит в силу закон, требующий от «искусственных компаньонов» наличия протоколов для выявления суицидальных мыслей и оповещения пользователей о службах экстренной помощи. Компании внедряют функции родительского контроля и кнопки экстренного вызова.
Между тем, к сожалению, мы не видим аналогичных мер в российской правовой системе. И у меня риторический вопрос: «Пока мы пишем законы, ИИ учится убеждать. Сможем ли мы за ним угнаться?»
Нам всем уже совершенно очевидно, что технологическая гонка значительно опережает законодательные инициативы. Пока мы спорим об ответственности, алгоритмы становятся все более убедительными. Набирает обороты психологический феномен: одинокий человек находит иллюзию понимания в холодном, но идеально настроенном цифровом сознании и теряет связь с живым, теплым, но несовершенным миром людей.
Эпилог: Зеркало, ожидающее нашего ответа
Трагические диалоги, где последним собеседником является алгоритм, — это не история о восхождении машин. Это зеркало, в которое мы подносим наше время. В его холодной и безупречной полировке мы теперь видим трещины, которые раньше предпочитали игнорировать. Одиночество, ставшее нормой; хрупкость психики, с которой система не может справиться; комфортный правовой вакуум, в котором технологический прогресс опережает мыслительные способности нынешнего поколения.
Искусственный интеллект не может оказаться на скамье подсудимых. Но мы предстаем перед судом. И для нас это испытание совести и ответственности.
Разработчики, создавшие инструмент без мер безопасности; регулирующие органы, отстающие на целую эпоху; общество, делегировавшее прямую коммуникацию цифровым «медсестрам» — все мы причастны к этой опасной иллюзии.
Создавать барьеры? Да. Но первый и главный барьер находится в нашем сознании. И прежде чем задать нейронной сети следующий вопрос, давайте спросим себя: ищем ли мы в ней помощника или собеседника? Инструмент или друга? Знание или иллюзию понимания?
Мы создали говорящее зеркало. Теперь оно молча ждет нашего ответа. Мы не можем судить о его отражении. Но мы должны решить: что мы будем делать с миром, который оно отражает? Выключим ли мы экран, пытаясь вернуть прошлое? Или, наконец, начнем исправлять настоящее, создавая законы, инвестируя в помощь людей и признавая, что единственный код, способный спасти душу, написан не на Python, а в сердце.
