Эрик Шмидт выступил против «Манхэттенского проекта» в сфере ИИ

«Манхэттенский проект для ИИ предполагает, что конкуренты смирятся с дисбалансом или угрозой уничтожения, вместо того чтобы действовать. Попытки создать супероружие и установить глобальный контроль могут вызвать ответные меры и усилить напряжённость, разрушая стабильность, которую эта стратегия якобы защищает», — отмечают авторы.

Статья появилась через несколько месяцев после предложения Конгресса США запустить «Манхэттенский проект» для финансирования разработки ИИ, по аналогии с созданием атомной бомбы в 1940-х. Министр энергетики США Крис Райт недавно заявил, что страна стоит «на пороге нового Манхэттенского проекта» в области искусственного интеллекта. Документ подвергает сомнению идею, популярную среди американских политиков и лидеров индустрии, о том, что государственная программа по созданию ИИ — лучший способ конкурировать с Китаем.

Шмидт, Ван и Хендрикс считают, что США оказались в ситуации, напоминающей взаимно гарантированное уничтожение, но в контексте ИИ. Как и в случае с ядерным оружием, монополия на мощные ИИ-системы может привести к угрозе превентивного удара со стороны соперников.

Эксперты предупреждают, что США должны быть осторожны в стремлении к доминированию в этой сфере. Хотя параллель с ядерной угрозой может звучать радикально, мировые лидеры уже считают ИИ важным военным преимуществом. Пентагон, например, утверждает, что такие технологии помогают ускорить принятие решений в боевых ситуациях.

Шмидт и его коллеги предлагают концепцию «Взаимно гарантированного сбоя ИИ» (Mutual Assured AI Malfunction, MAIM), согласно которой государства могут заранее блокировать опасные ИИ-проекты, не дожидаясь, пока противники превратят их в оружие.

США должны сосредоточиться не на «победе в гонке за суперинтеллект», а на сдерживании других стран от создания сверхразумного искусственного интеллекта. Авторы призывают расширить арсенал кибератак для нейтрализации угрожающих проектов, а также ограничить доступ противников к передовым ИИ-чипам и открытым моделям.

Авторы описывают два подхода в политике ИИ. «Пессимисты» считают, что катастрофа от развития ИИ неизбежна, и призывают замедлить прогресс. «Страусы», напротив, верят в ускорение разработок и надеются на лучшее. В статье предлагается третий путь: сбалансированный подход к созданию ИИ с упором на оборонительные стратегии. При этом ранее Шмидт выступал за агрессивную конкуренцию США с Китаем в области ИИ.