Взгляд Дарио Амодеи на позитивное будущее с искусственным интеллектом

Генеральный директор Anthropic Дарио Амодеи опубликовал объемное эссе «Машины любящей благодати» (Machines of Loving Grace). В нем он отходит от привычной для себя темы экзистенциальных рисков и подробно описывает, как может выглядеть мир, если развитие сильного искусственного интеллекта пойдет по благоприятному сценарию. Это важный сигнал от индустрии: помимо защиты от угроз, нам необходимо четкое понимание того, ради чего создаются эти технологии.

Долгое время Anthropic и сам Амодеи предпочитали фокусироваться на безопасности. В эссе он объясняет этот выбор несколькими причинами. Во-первых, коммерческие выгоды ИИ и так стимулируются рынком, тогда как снижение рисков требует целенаправленных усилий. Во-вторых, рассказы компаний о светлом будущем часто воспринимаются как пропаганда или попытка отвлечь внимание от проблем. Кроме того, Амодеи стремился избежать излишней грандиозности и «научно-фантастического» багажа, который часто отталкивает широкую аудиторию от серьезного обсуждения темы.

Однако сейчас, по мнению автора, обществу необходима надежда, а не только страх. Амодеи выделяет пять ключевых направлений, где ИИ способен радикально улучшить качество жизни: биология и физическое здоровье, нейронауки и ментальное здоровье, экономическое развитие и борьба с бедностью, мир и государственное управление, а также труд и поиск смысла.

Для предметного разговора Амодеи вводит собственное определение «мощного ИИ», стараясь избегать популярного термина сильный ИИ (AGI). По его прогнозам, такая система может появиться уже к 2026 году. Этот ИИ будет превосходить лауреатов Нобелевской премии в большинстве научных областей. Он получит доступ ко всем виртуальным интерфейсам, сможет автономно выполнять задачи, требующие недель работы, и управлять физическими инструментами через компьютер. Главное преимущество — возможность запустить миллионы копий такой модели одновременно, создав «страну гениев в дата-центре», работающих в десятки раз быстрее человека.

При этом Амодеи отвергает две крайности в оценке скорости прогресса. Он не верит в мгновенную технологическую сингулярность, когда ИИ решит все проблемы за считанные дни, поскольку существуют непреодолимые физические ограничения (например, скорость проведения реальных биологических экспериментов или создания оборудования). С другой стороны, он считает ошибочным мнение, что прогресс остановится из-за нехватки данных или социальных барьеров. Интеллект такого уровня способен найти обходные пути и значительно ускорить научные открытия.

Эссе Дарио Амодеи — это попытка перевести дискуссию о будущем ИИ из плоскости абстрактных страхов в русло конструктивного планирования. Автор признает, что его прогнозы могут быть неточными, и призывает профильных экспертов из разных областей объединиться для создания более детального видения. Понимание того, к какому будущему мы стремимся, становится не менее важным, чем предотвращение потенциальных катастроф.