Парадокс Думера: Пессимисты оказались слишком оптимистичны
421 эксперт пытался предсказать будущее AI. Они угадали почти всё, кроме самого страшного: киберугроз и биологического оружия. Реальность опережает даже самые мрачные прогнозы.
Каждый второй пост про AI начинается с банального «прогресс идет быстро». Но насколько быстро? И, что важнее, понимаем ли мы, куда несемся?
Epoch AI и AI Digest провели масштабный опрос 421 эксперта. И результаты заставляют нервно проверять запасы консервов.
Кто эти люди?
Забудьте о седых профессорах. Типичный предсказатель — это джуниор. 80% опрошенных имеют опыт работы в AI менее 5 лет. Это те самые ребята, которые пишут код, тренируют модели и видят «внутренности» нейросетей каждый день.
И они напуганы.
- 90% из них ожидают появление человекоподобного интеллекта (HLMI) к 2040 году.
- 75% считают, что существует реальный риск вымирания человечества из-за AI.
Где они ошиблись?
Самое страшное не в том, что они ошиблись, а в том, в какую сторону.
Эксперты почти идеально предсказали рост математических способностей моделей (бенчмарки FrontierMath и RE-Bench). Но они катастрофически недооценили способность AI к взлому и кибератакам.
Взгляните на Cybench (тест на профессиональные задачи по кибербезопасности):
- Ожидание экспертов: успеха.
