Глава DeepMind: "К рискам ИИ следует относиться так же серьезно, как к изменению климата"

«Мы должны относиться к рискам ИИ так же серьезно, как к другим крупным глобальным проблемам, как к климатическому изменению, - сказал Хассабис. – Слишком долго международное сообщество координировало эффективные глобальные меры предотвращения, и теперь мы вынуждены мириться с последствиями. Мы не можем себе позволить так же долго медлить с ИИ».

Человечество должно безотлагательно приступить к нейтрализации рисков новых технологий, от биологического оружия до сверхчеловеческого интеллекта, считает Хассабис. Под его руководством команда DeepMind создавала не только алгоритмы для игры в го или компьютерные стратегии, но и для решения сложных биологических задач. Вполне ожидаемо, что он называет искусственный интеллект «одной из самых важных и полезных технологий, когда-либо изобретенных человеком».

Однако, он также считает, что ИИ необходим режим надзора, который можно организовать по примеру международного органа IPCC, https://www.theguardian.com/technology/2023/oct/24/ai-risk-c... Guardian. «Думаю, следует начать с чего-то вроде IPCC, где есть научное и исследовательское согласие с отчетами, и затем двигаться оттуда». В идеале, он надеется, появится нечто вроде ЦЕРНа в области безопасности ИИ, а затем и некий эквивалент МАГАТЭ, которое надзирает за применением ядерной энергии и способствует его мирному использованию.

На прошлой неделе к аналогичным мерам призывали Эрик Шмидт, бывший глава Google, и Мустафа Сулейман, сооснователь DeepMind, призвали к созданию межправительственного совета экспертов по безопасности в области ИИ.

Он должен действовать, по их мнению, под эгидой ООН.

Хассабис, как и ряд других https://hightech.plus/2023/10/16/dzheffri-hinton-ii-smozhet-... в ИИ, считает, что эта технология способна открыть «невероятные возможности» перед медициной и наукой, но признает, что она несет и реальные экзистенциальные риски. В первую очередь, речь о появлении так называемого «универсального ИИ», который превзойдет человека по интеллекту и окажется неподвластен человеку.

Хассабис был одним из числа 1300 с лишним ученых, инженеров и предпринимателей, которые подписали открытое https://hightech.plus/2023/03/30/ilon-mask-i-bolee-1300-eksp..., призывающие приостановить разработку мощных моделей из-за «значительных рисков для общества и человечества».

«Мы должны начать думать и изучать это сейчас. На самом деле, еще вчера, - сказал он. – Вот почему я подписал, как и многие другие, то письмо. Потому что мы хотели придать авторитетности той теме, которую имело бы смысл обсудить».