Разбор исследования Google DeepMind о том, как будет развиваться искусственный интеллект после достижения человеческого уровня, и какие препятствия стоят на пути к сверхинтеллекту.
3 мин
В научном сообществе и индустрии все чаще обсуждается не просто создание искусственного интеллекта человеческого уровня (AGI, Artificial General Intelligence), но и то, что последует за ним. Исследователи из Google DeepMind представили масштабный труд, в котором попытались структурировать возможные пути перехода от AGI к искусственному сверхинтеллекту (ASI, Artificial Superintelligence).
Этот документ важен тем, что переводит дискуссию о сверхинтеллекте из области научной фантастики в плоскость конкретного технологического прогнозирования и анализа рисков.
Если AGI традиционно понимается как система, способная выполнять любую интеллектуальную работу на уровне среднего человека, то концепция ASI идет гораздо дальше. Авторы исследования определяют искусственный сверхинтеллект как систему, которая превосходит по интеллекту и когнитивным способностям не просто отдельного человека, а целые крупные организации людей.
ИИ всё усложняется, и мы пытаемся управлять им... в меру своих сил и понимания...
Это важное уточнение. Интеллект организации включает в себя координацию, распределение задач, коллективную память и синергию множества специалистов. Создание системы, превосходящей такой коллективный разум, станет беспрецедентным вызовом.
Исследователи выделяют четыре основных направления, по которым может произойти переход от AGI к ASI. Эти пути не являются взаимоисключающими и вполне могут развиваться параллельно:
Хабр Карьера Курсы
Путь к ASI не будет гладким. В исследовании подробно рассматриваются факторы, которые могут затормозить этот процесс. Среди них — физические ограничения (нехватка энергии и вычислительных чипов), исчерпание качественных данных для обучения, проблемы с координацией сложных систем и фундаментальные ограничения самих алгоритмов.
Важный вывод авторов заключается в том, что влияние этих препятствий пока до конца не изучено. Определение того, станут ли они непреодолимой стеной или лишь временной задержкой, является главной задачей для текущих исследований.
Авторы подчеркивают, что мы вряд ли столкнемся с единовременным, мгновенным скачком. Скорее всего, нас ждет серия глубоких трансформационных изменений в различных сферах — от экономики и науки до политики и культуры.
Подготовка к такому будущему требует не просто усилий программистов, а масштабной междисциплинарной работы на глобальном уровне. Нам необходимо заранее понимать, как управлять системами, сложность которых выходит за рамки человеческого восприятия.
Переход от искусственного интеллекта человеческого уровня к сверхинтеллекту рассматривается как структурированная технологическая задача, требующая глобальной подготовки общества.
Появление сверхинтеллекта, скорее всего, будет не единовременным технологическим взрывом, а серией последовательных трансформаций, к которым обществу придется адаптироваться шаг за шагом.
