Истинная ценность ИИ: почему способность к рутинной работе может оказаться важнее гениальности
Исследователи рассуждают о том, как развитие искусственного интеллекта изменит баланс между генерацией идей и их реализацией, и почему инфраструктура станет главным узким местом прогресса.
Суть
Мы привыкли воспринимать будущий сильный искусственный интеллект как генератор гениальных открытий. Однако новое эссе, опубликованное на платформе OpenAI для независимых исследователей, предлагает иной взгляд. Авторы Хемант Асирватхам и Эллиотт Мокски утверждают, что наибольшую ценность машины принесут, выполняя монотонную работу. Именно способность ИИ брать на себя рутину определит скорость научного и экономического прогресса.
Контекст
Исторически каждая новая ступень познания требует все больше ресурсов. Галилео Галилей расширил наши знания о космосе с помощью трубы и двух линз, созданных усилиями нескольких десятков человек. Чтобы сделать следующий шаг сегодня, человечеству понадобился космический телескоп «Джеймс Уэбб» стоимостью десять миллиардов долларов. Его создание потребовало участия трехсот организаций из четырнадцати стран.
Наши идеи опережают наши физические возможности. Исследования показывают, что продуктивность науки падает. Например, для поддержания закона Мура сегодня требуется в 18 раз больше исследователей, чем в начале 1970-х годов. Затраты на научные инструменты и инфраструктуру растут в геометрической прогрессии.
Three paths to knowledge: reasoning from basic principles, new theories from existing data, and collecting new data.
Детали
В экономике существует понятие дополняющих благ (complements) — когда увеличение одного ресурса повышает ценность другого. В контексте прогресса гениальная идея и способность ее реализовать являются именно такими дополнениями.
Идея сама по себе хрупка. Ей нужны институты: законы, финансирование, цепочки поставок и бюрократия. Авторы называют это «институциональным интеллектом». Если представить цивилизацию, состоящую из миллиарда Эйнштейнов, большинству из них все равно придется добывать руду и сводить бухгалтерию, чтобы малая часть могла заниматься чистой наукой.
Сегодня ИИ снижает дефицит исполнения. Он пишет код, анализирует литературу и создает прототипы. То, что раньше требовало целой организации, теперь может сделать один амбициозный человек. ИИ выступает в роли армии ассистентов.
Анализ
Conceptual graph of pace of progress over time: after AI, a civilization of depth accelerates while a civilization of width slows.
Такое развитие событий смещает фокус дефицита. Если исполнение становится дешевым, главной ценностью становится вкус — способность решать, какие именно идеи стоит реализовывать из тысяч возможных.
Но авторы предупреждают о следующем этапе. Когда ИИ начнет самостоятельно генерировать блестящие гипотезы, количество концепций, достойных проверки, возрастет многократно. В этот момент мир может столкнуться с беспрецедентным дефицитом исполнения. У нас будет слишком много хороших идей и слишком мало физической инфраструктуры для их проверки.
Перспектива
Исследователи выделяют два возможных пути развития цивилизации. Первый — «цивилизация глубины», где сверхразум обходит потребность в физическом капитале, делая открытия путем чистых рассуждений и анализа уже собранных данных (например, в математике).
Второй путь — «цивилизация ширины». В этом сценарии сложность природы такова, что даже самому мощному интеллекту потребуются масштабные эксперименты в реальном мире. Будущее покажет, насколько далеко мы сможем продвинуться силой одной лишь мысли, прежде чем нам снова придется строить гигантские машины.
A suspended mobile balances a small Earth against branching stars, planets, and galaxies.
James Webb telescope and supporting civilization
Ribbons labeled genius, capital, and bureaucracy intertwine to form progress.
A partly assembled jigsaw reveals a globe, illustrating discovery through a more complete picture.
An illuminated spiral galaxy filled with domed settlements illustrates a civilization of width.
Dyson sphere and orbiting construction
A person looks through a telescope beside a small illuminated home beneath a vast starry sky.
A person stands on a thin line between an orange cosmic spiral and a sweeping blue field of stars.
TL;DR
Главное
Главная ценность продвинутого ИИ может заключаться не в генерации гениальных идей, а в выполнении рутинной работы, необходимой для их реализации.
Ключевые факты
- /Для поддержания закона Мура сейчас нужно в 18 раз больше ученых, чем в 1970-х.
- /ИИ снижает стоимость проверки гипотез, заменяя целые отделы специалистов.
- /В будущем главным дефицитом может стать физическая инфраструктура для проверки идей ИИ.
Инсайт
Даже цивилизации, состоящей из миллиарда гениев, потребовалось бы, чтобы большинство из них занималось добычей ресурсов и бюрократией для обеспечения работы остальных.
