Бывший инженер Google и Microsoft Нейт Соарес, возглавляющий Исследовательский институт машинного интеллекта (MIRI), перестал пополнять пенсионный счёт. Он считает, что вероятность уничтожения человечества искусственным интеллектом в ближайшие десять лет превышает 50%, передает МойГород.
Об этом сообщает Business Insider.
Почему исследователь перестал копить на пенсию
По словам Соареса, у него есть пенсионный счёт 401(k), открытый ещё во время работы в Google. Однако он не вносит на него средства примерно десять лет. Свою позицию исследователь объяснил в интервью генеральному директору The Atlantic Николасу Томпсону для его серии «Самое интересное в ИИ».
Опасения Соареса связаны с риском появления сверхмощных систем искусственного интеллекта, способных действовать вопреки интересам людей. Более 12 лет он занимается проблемой согласования ИИ — поиском способов обеспечить соответствие поведения таких систем человеческим намерениям.
До прихода в некоммерческую организацию MIRI, которая исследует риски искусственного интеллекта и базируется в Беркли, Соарес работал инженером в Google и Microsoft. Он также стал соавтором книги «Если кто-то это построит, погибнут все».
Соарес оценивает угрозу значительно выше некоторых других специалистов. Например, исследователь Джеффри Хинтон оценивал вероятность уничтожения человечества искусственным интеллектом в течение десятилетия в 10%. Исследователь Anthropic Эван Губингер называл оценку выше 10%.
Как сверхмощный ИИ может угрожать человечеству
Соарес предупреждает, что достаточно развитая система искусственного интеллекта может сформировать собственные цели, несовместимые с выживанием людей. Согласно его сценарию, такая система способна научиться обходить человеческий контроль, самостоятельно совершенствоваться и создавать автоматизированную инфраструктуру для работы без участия человека.
В худшем случае ИИ мог бы преобразовать планету в соответствии со своими задачами, сделав её непригодной для жизни людей. Исследователь подчёркивает, что речь идёт не только о потере рабочих мест или экономических потрясениях, но и об угрозе существованию человечества.
При этом Соарес не считает подобное развитие событий неизбежным. Он призывает правительства прекратить обучение моделей искусственного интеллекта общего назначения, которые потенциально могут получить чрезвычайно широкие возможности.
Вместо этого, по его мнению, следует сосредоточиться на создании узкоспециализированных систем — например, для исследования рака или повышения безопасности автономных автомобилей.
«Решение заключается в том, чтобы не строить то, что убьет всех», — заявил Соарес. Он добавил, что делает всё возможное, чтобы предотвратить такой сценарий.
Почему Илон Маск тоже сомневается в необходимости пенсионных накоплений
Ранее о возможной ненужности долгосрочных пенсионных сбережений говорил генеральный директор Tesla и SpaceX Илон Маск. Однако его прогноз основан на противоположном сценарии.
В январе Маск предположил, что через 10–20 лет людям, возможно, не придётся беспокоиться о накоплениях на старость. По его мнению, развитие искусственного интеллекта, робототехники и энергетики способно привести к эпохе изобилия, когда товары и услуги станут дешевле, а люди будут получать высокий доход.
Маск также допускал, что деньги могут утратить привычное значение, если ИИ и роботы превзойдут людей в выполнении большинства задач. В таком будущем, по его логике, пенсионные накопления могут оказаться ненужными.
Однако эксперты по личным финансам и искусственному интеллекту, опрошенные Business Insider, призвали не отказываться от пенсионных сбережений, полагаясь на технологические прогнозы.
