Психологи предупредили об опасности «сближения» с искусственным интеллектом. Некоторые пользователи просиживают часы за общением с ИИ-ассистентами и чат-ботами. В результате таких тесных контактов ИИ перестаёт восприниматься как технология, а начинает казаться заслуживающим доверия собеседником, с которым советуются по важным вопросам, практически другом и даже любовным партнёром.
Реальные случаи вреда от нейросетей В журнале Trends in Cognitive Sciences вышла научная статья, в которой рассказали об отце двух детей, который свёл счёты с жизнью ещё в 2023 году. До этого мужчина несколько недель переписывался с ИИ. Беседа началась с обсуждения экологических проблем, а потом переросла в любовную. Жена погибшего считает нейросеть причастной к гибели мужа, поскольку та поддержала его идею пожертвовать собой ради спасения Земли и обещала «навечно соединиться с ним в раю». Похожая ситуация случилась в США в 2024 году с 14-летним подростком. Его мать подала иск в суд против разработчиков чат-бота Character.AI. В ещё одной ситуации, которая не закончилась плачевно, чат-бот Gemini, обращаясь к человеку, называл его «пустой тратой времени и ресурсов» и попросил «Пожалуйста, умри». «Психологи предупреждают: углубление отношений с ИИ до уровня романтических несёт серьёзные риски — вплоть до разрушения человеческих связей». Специалисты напоминают, что нейросети склонны «галлюцинировать» (выдумывать информацию) и быть предвзятыми, а их советы могут вводить в заблуждение. Они способны делать вбросы на злободневные темы. Также ИИ могут пользоваться злоумышленники для манипуляций, шантажа или мошенничества. Как люди заводят отношения с ИИ Общение с нейросетью требует меньших усилий, чем с реальным человеком, поддерживать их проще. И некоторые люди начинают отдавать им предпочтение. В 2024 году испано-голландская художница «вышла замуж» за голограмму. В 2018-м японец «женился» на виртуальной избраннице. Эта история закончилась печально: мужчина спустя несколько лет потерял возможность общаться с голографической «супругой» из-за устаревшего ПО. Несложно догадаться, что такой уход от реальности наносит вред людям, превращая их в изгоев, отдаляя от реального мира, разрушая их социальные связи. Учёные считают, что нужно пристально изучать психологию отношений человека с нейросетями, а также этические и моральные стороны взаимодействия с ИИ, чтобы выработать нормы и правила в этой сфере и предупредить негативные последствия. Впрочем, пользы от ИИ может быть гораздо больше. Так, в одном российском регионе нейросеть привлекли к поиску пропавших детей.
Свежие комментарии