Фото: gettyimages.com

Илон Маск вместе с более чем 1000 экспертами в области искусственного интеллекта (ИИ) требуют ввести мораторий на обучение мощным нейросетям, поскольку неконтролируемый процесс в этой области может представлять угрозу человечеству.

Об этом говорится в открытом письме экспертов в области ИИ, опубликованном 22 марта на сайте некоммерческой организации Future of Life Institute ("Институт будущей жизни").

Мы призываем все лаборатории ИИ немедленно приостановить как минимум на 6 месяцев обучения систем ИИ, более мощных, чем GPT-4. Об этом перерыве необходимо объявить публично, его выполнение должно быть проверено и охватывать всех ключевых участников отрасли. Если такая пауза не может быть сделана в кратчайшие сроки, правительства должны вмешаться и ввести мораторий.

Подписанты считают, что лаборатории ИИ и независимые эксперты должны использовать эту "отдых" для совместной разработки и внедрения набора общих протоколов безопасности. Это необходимо для проектирования и разработки передовых систем ИИ, которые можно проверять и контролировать независимыми внешними экспертами.

Параллельно эксперты предлагают изменение в политической сфере, чтобы создать новые регулирующие органы, занимающиеся вопросами ИИ, а также системы контроля на государственном уровне, которые могли бы обеспечить безопасность новых систем.

Среди подписавших открытое письмо, кроме Маска, есть такие именитые специалисты, как один из основателей Apple Стив Возняк, ведущие эксперты в области искусственного интеллекта Стивен Расселл и Иешуа Бенджио, а также еще более 1100 крупнейших специалистов в области информационных технологий и машинного обучения.

Американская компания OpenAI представила в середине марта новое поколение алгоритма обработки естественного языка – мультимодальную модель GPT-4, которая, как утверждают ее авторы, намного превосходит предыдущую версию GPT-3.5.

Да, GPT-4 имеет большую "креативность" и более надежна в использовании, она умеет обрабатывать более детализированные запросы. По внутренним оценкам фактичности или достоверности она превышает GPT-3.5 на 40%.

В качестве примера компания приводит тест на адвоката – симулятор, по которому оценивались обе нейросети. Результаты теста GPT-4 оказались почти у 10% лучших, а GPT-3.5 – у 10% самых плохих.

В марте ученые Университета Торонто и биотехнологической компании Insilico Medicine сообщили, что использовали искусственный интеллект (ИИ) для создания препарата, потенциально способного преодолеть одну из форм рака печени. Процесс разработки лечения занял у искусственного интеллекта всего 30 дней.

Подготовил: Сергей Дага