Иллюстративное фото из открытых источников

Страх перед сверхумным искусственным интеллектом заставляет студентов Гарварда и Массачусетского технологического института бросать учебу, пишет Forbes.

AGI — общий искусственный интеллект, который может выполнять многие из тех же задач, что и человек, — может появиться в течение десятилетия. Студенты, в том числе элитных университетов, уже сейчас бросают учебу, чтобы работать над тем, чтобы не дать ему обернуться против человечества.

Элис Блэр, которая в 2023 году поступила в Массачусетский технологический институт, взяла академический отпуск, опасаясь, что появление AGI, способного выполнять различные задачи не хуже людей, может обречь человечество на гибель.

— Я была обеспокоена тем, что могу не дожить до окончания университета из-за AGI. Я думаю, что в большинстве сценариев из-за того, как мы работаем над созданием AGI, мы получим вымирание человечества, — сказала Блэр из Беркли, штат Калифорния.

Сейчас она работает техническим автором в Center for AI Safety, некоммерческой организации, занимающейся исследованиями в области безопасности ИИ, где помогает писать информационные бюллетени и научные статьи. По словам Блэр, она не планирует возвращаться в Массачусетский технологический институт.

Блэр — не единственная студентка, которая опасается потенциально разрушительного влияния ИИ на будущее человечества. Согласно докладу, подготовленному по заказу Госдепа США в 2024 году, риск "вымирания" возможен, учитывая скорость развития ИИ. В то же время многие исследователи не согласны с этим утверждением.

— Вымирание человечества кажется очень маловероятным. Но работа над безопасностью ИИ является благородным делом, — сказал Forbes профессор Нью-Йоркского университета Гэри Маркус, который изучает пересечение психологии и ИИ.

В настоящее время сфера безопасности ИИ и ее обещания предотвратить худшие последствия побуждают молодых людей бросать учебу.

Осенью прошлого года Адам Кауфман, студент факультета физики и информатики, покинул Гарвардский университет, чтобы работать в Redwood Research, некоммерческой организации, которая изучает обманчивые системы искусственного интеллекта, которые могут действовать вопреки интересам человека.

— Я очень обеспокоен рисками и считаю, что самое важное, над чем нужно работать, — это их уменьшение. Также я просто считаю, что это очень интересно. Я работаю с самыми умными людьми, которых когда-либо встречал, над сверхважными проблемами, — сказал Кауфман.

Его брат, сосед по комнате и девушка также покинули Гарвард по схожим причинам. Сейчас они втроем работают в OpenAI.

Другие студенты боятся AGI из-за того, что он может разрушить их карьеру еще до того, как она начнется. Половина из опрошенных 326 студентов Гарварда беспокоятся о влиянии ИИ на их перспективы трудоустройства.

Некоторые компании уже нанимают меньше стажеров и выпускников, поскольку ИИ способен выполнять их задачи. Другие проводят массовые увольнения. Генеральный директор Anthropic Дарио Амодей предупредил, что искусственный интеллект может ликвидировать половину всех должностей для начинающих и привести к росту безработицы до 20% в ближайшие несколько лет.

Студенты опасаются, что это изменение резко ускорится с появлением AGI, хотя когда это может произойти, остается предметом дискуссий. Гендиректор OpenAI Сэм Альтман считает, что AGI будет разработано к 2029 году, а гендиректор Google DeepMind Демис Хассабис прогнозирует, что это произойдет в ближайшие пять-десять лет.

Подготовил: Сергей Дага