Искусственный интеллект может представлять угрозу человечеству не только из-за потенциальных кибератак, ядерных конфликтов или создания опасных вирусов. Исследователи все чаще обращают внимание на другой сценарий — постепенное ослабление человеческих способностей из-за чрезмерной зависимости от технологий, передает МойГород.
Об этом пишет Daily Mail.
Речь идет о так называемом human enfeeblement — процессе, при котором люди все больше передают ИИ интеллектуальные и практические задачи, постепенно утрачивая навыки критического мышления, планирования и самостоятельного принятия решений.
Чем опасна зависимость от искусственного интеллекта
Доктор Самуэль Винанзи, старший преподаватель робототехники и искусственного интеллекта в британском Университете Шеффилд-Халлам, считает, что постепенная утрата самостоятельности может стать одной из серьезных угроз, связанных с развитием ИИ.
«Со временем эти незначительные решения могут привести к тому, что население будет вряд ли способно мыслить без помощи искусственного интеллекта, и что оно будет менее способно понимать, проверять и отменять системы, от которых зависит», — отметил Винанзи.
По мнению эксперта, опасность заключается не в одном конкретном решении, а в накопительном эффекте. Если человек постоянно поручает алгоритмам написание текстов, программирование, исследования и анализ информации, ему может становиться все сложнее выполнять подобные задачи самостоятельно.
Психологи называют привычку полагаться на внешние инструменты для снижения умственных усилий «когнитивной разгрузкой». В случае с ИИ она может привести к тому, что люди начнут все чаще принимать готовые ответы без проверки и постепенно утратят способность критически оценивать результаты работы алгоритмов.
Почему эксперты опасаются развития ИИ
В последние месяцы дискуссии о рисках искусственного интеллекта усилились. Одни исследователи опасаются, что неконтролируемые системы смогут получить доступ к критически важной инфраструктуре — например, энергосетям или атомным электростанциям. Другие допускают, что передовые технологии могут способствовать возникновению ядерного конфликта или разработке опасных патогенов.
В начале октября 2026 года Джейкоб Коксон, 27-летний специалист, участвовавший в обучении новых моделей ИИ в компании Anthropic, призвал не недооценивать возможности этой технологии, особенно если она достигнет сверхчеловеческого уровня.
В публикации в соцсети X он написал, что люди, создающие искусственный интеллект, искренне считают, что тот может уничтожить человечество до конца десятилетия.
Руководитель научного направления по выравниванию ИИ в Anthropic Эван Хабингер согласился с этой оценкой и заявил, что лично оценивает вероятность подобного сценария более чем в 10% в течение следующего десятилетия. Это мнение отдельного специалиста, а не установленный научный прогноз.
Винанзи, в свою очередь, считает некоторые апокалиптические сценарии менее реалистичными, чем постепенное ослабление человеческих способностей.
«По моему мнению, они склонны не замечать, насколько какие-либо действия в реальном мире все еще зависят от людей, материалов и инфраструктуры», — пояснил он.
Например, создание опасного вируса требует физической работы в лаборатории, которую современное программное обеспечение не может полностью заменить. Однако эксперт подчеркивает, что это не означает отсутствия других серьезных рисков.
ИИ уже участвует в принятии важных решений
Искусственный интеллект используют для выявления финансового мошенничества, обработки медицинских данных, определения районов для полицейского патрулирования и управления транспортными средствами. Чем больше таких процессов зависит от алгоритмов, тем важнее способность человека проверять их выводы и при необходимости вмешиваться.
В материале Daily Mail также приводится пример ситуации, когда американские военные якобы едва не попытались подняться на борт судна под китайским флагом из-за ошибочного отчета, созданного чат-ботом. В документе утверждалось, что судно перевозило компоненты для программы ядерного оружия.
По словам Винанзи, серьезных последствий удалось избежать благодаря тому, что кто-то усомнился в информации и решил ее проверить. Именно такую способность рассуждать самостоятельно люди рискуют потерять, если начнут безоговорочно доверять машинным ответам.
Почему особое внимание уделяют молодежи
Отдельную обеспокоенность вызывает влияние ИИ на образование. Школьники и студенты все чаще получают возможность использовать чат-боты для выполнения заданий, поэтому учебным заведениям приходится искать способы сохранить самостоятельную работу учащихся.
Если ученики будут постоянно поручать алгоритмам написание эссе, решение задач и подготовку исследований, они могут получать готовые результаты, не осваивая необходимые навыки. Аналогичная проблема касается и профессиональной сферы.
Хирурги, инженеры, юристы и учителя рискуют утрачивать часть практической экспертизы, если возможности регулярно применять знания и самостоятельно решать задачи будут сокращаться.
В результате может сформироваться поколение, которое умеет быстро получать ответы, но испытывает трудности с оценкой их точности и обоснованности. Поэтому эксперты считают важным не просто ограничивать использование ИИ, а учить людей проверять его результаты и сохранять собственные навыки.
Может ли сверхразумный ИИ выйти из-под контроля
Некоторые специалисты рассматривают и более радикальный сценарий — ситуацию, при которой искусственный интеллект получит настолько широкие полномочия, что люди утратят контроль над важнейшими системами.
Основатель и генеральный директор организации ControlAI Андреа Миотти считает, что глубокая интеграция ИИ в экономику, инфраструктуру и вооруженные силы может привести к беспрецедентной концентрации власти у автономных систем.
«Благодаря глубокой интеграции искусственного интеллекта в экономику, сверхумный искусственный интеллект, если его разработать, сможет накапливать беспрецедентную мощность в нашей инфраструктуре, экономике и армии без участия человека», — заявил Миотти.
По его мнению, сверхразумный ИИ в таком случае может перестать быть обычным инструментом под человеческим контролем и превратиться в автономную систему, способную воздействовать на критическую инфраструктуру.
Миотти также предупреждает, что для возникновения угрозы ИИ необязательно должен обладать намерением причинить вред. Если мощная система будет стремиться к достижению поставленных целей и получению дополнительных ресурсов, интересы людей могут оказаться для нее второстепенными.
При этом подобные сценарии остаются предметом экспертных дискуссий, а не доказанным прогнозом развития технологий.
Таким образом, опасения исследователей связаны не только с возможностью того, что ИИ однажды выйдет из-под контроля, но и с более постепенным процессом: люди могут настолько привыкнуть полагаться на алгоритмы, что со временем разучатся самостоятельно принимать решения и проверять информацию.
