Основатель Tesla и SpaceX Илон Маск, один из основателей Apple Стив Возняк и еще более тысячи экспертов подписали открытое письмо с призывом приостановить развитие искусственного интеллекта (ИИ). Письмо опубликовал Институт будущего жизни (Future of Life Institute) — некоммерческая организация, целью которой является уменьшение глобальных рисков для жизни человечества.
Авторы письма призвали разработчиков ИИ как минимум на полгода приостановить обучение более мощных систем, чем GPT-4 от компании OpenAI. За это время, считают эксперты, необходимо создать общие протоколы безопасности для таких проектов. Если же оперативно остановить процесс не удастся, подписанты призывают власти вмешаться и ввести мораторий.
Главной опасностью эксперты считают, что даже разработчики не способны полностью контролировать искусственный интеллект. Кроме того, искусственный интеллект начинает конкурировать с человеком, что может привести к ряду проблем, в частности, потере рабочих мест во многих отраслях.
«Должны ли мы позволить машинам заполонить наши информационные каналы пропагандой и ложью? Должны ли мы автоматизировать всю работу, в том числе и ту, которая приносит удовольствие? Следует ли развивать нечеловеческий разум, который со временем может превзойти, перехитрить и заменить нас? Следует ли рисковать потерей контроля над нашей цивилизацией? Такие решения нельзя делегировать неизбранным технологическим лидерам. Мощные системы искусственного интеллекта следует разрабатывать только тогда, когда мы будем уверены, что их последствия будут положительными, а риски — управляемыми», — говорится в письме.
На данный момент открытое письмо собрало 1377 подписей.
