Так много нам помогают лингвомодели, что все больше времени у великих технологических гигантов мысли убедить нас что идем в верном направлении и скоро все в раю будем . Это уже жанр целый. Вот новые горизонты открывают нам значительные обладатели естественного интеллекта. Очередной этап понимания будущего.

https://arxiv.org/pdf/2606.12683

Оценим)

"После появления работоспособного AGI дальнейший рост возможностей не обязан остановиться на человеческом уровне."

Статья From AGI to ASI подготовлена большой группой исследователей Google DeepMind, включая Шейна Легга, Маркуса Хаттера, Аллана Дэфо и других. Это свежий препринт от 10 июня 2026 года, а не прошедшая полноценное рецензирование журнальная публикация. (arxiv.org)

1. Что именно утверждает статья

Авторы используют следующие рабочие определения:

Это важно: авторы устанавливают очень высокую планку ASI. В их терминологии система, превосходящая отдельных специалистов, но не крупные исследовательские организации, еще не обязательно является ASI.

Они выделяют четыре пути от AGI к ASI:

Авторы специально подчеркивают, что пути могут развиваться одновременно и усиливать друг друга.

2. Масштабирование вычислений, моделей и данных

Аргумент авторов

Современный прогресс ИИ в значительной степени обеспечивался увеличением:

Авторы рассматривают возможность продолжения этого процесса еще на несколько порядков. Они признают, что сама зависимость между дополнительными вычислениями и новым уровнем интеллекта неизвестна.

В начале статьи приводится приблизительный расчет роста "эффективных вычислений":

Что здесь обосновано

Достаточно убедительно подтверждено, что:

Также обоснован риск исчерпания доступного высококачественного человеческого текста. Отдельное исследование Villalobos и соавторов оценивало возможное достижение границы доступного публичного текста приблизительно в интервале 2026-2032 годов, если прежние тенденции продолжатся. (arxiv.org)

Что вызывает сомнения

2.1. Умножение коэффициентов до "10 раз в год"

Это самая уязвимая количественная часть статьи.

Нельзя автоматически считать три коэффициента независимыми и устойчивыми:

[1{,}5 \times 2{,}5 \times 3 \approx 11{,}25]

Причины:

Авторы признают неопределенность, но затем регулярно используют 10-кратный темп в мысленных экспериментах. Поэтому число выглядит скорее как иллюстративный сценарий, чем надежная оценка.

2.2. Подмена индивидуального интеллекта количеством экземпляров

Пример статьи: если сначала доступны 1000 AGI, а через пять лет 100 миллионов, не станет ли вся система ASI? (даже не представляю сколько денег будет у Nvidia)

Это логически возможно, но здесь смешиваются:

Сто миллионов посредственных исследователей не обязательно решат задачу, которую не способен концептуализировать ни один из них. Они могут лишь сто миллионов раз повторить похожую ошибку, но уже очень быстро.

Сами авторы частично признают эту проблему, отделяя масштабирование модели от коллективного интеллекта.

Вердикт: продолжение масштабирования весьма вероятно. Достижение ASI только за счет масштабирования не доказано.

3. Смена алгоритмической парадигмы

Авторы считают, что современные системы еще испытывают проблемы с:

В качестве возможных направлений они называют новые архитектуры, постоянную память, обучение с подкреплением, мировые модели, нейроморфные и аналоговые вычисления.

Оценка

Эта часть статьи логически корректна, но почти нефальсифицируема.

Формула выглядит так:

Если нынешний подход не сработает, возможно, появится другой подход.

Это разумно, но не дает прогноза:

Авторы справедливо включают смену парадигмы в пространство сценариев, но сам факт возможного появления неизвестного алгоритма не может служить свидетельством достижимости ASI.

Сценарий возможен, его вероятность из статьи определить нельзя.

4. Рекурсивное самоулучшение

Аргумент авторов

ИИ может помогать создавать более совершенный ИИ посредством:

Улучшенный ИИ затем еще быстрее улучшает следующую версию, создавая положительную обратную связь.

В качестве ранних аналогов приводятся:

Что обосновано

ИИ уже способен ускорять отдельные фрагменты исследований:

Поэтому слабая форма рекурсивного улучшения фактически уже существует.

Где происходит скачок рассуждения

Ускорение некоторых операций не доказывает возможность полностью автономного цикла:

[ИИ \rightarrow улучшение ИИ \rightarrow еще более быстрое улучшение ИИ]

Для такого цикла нужны как минимум:

Авторы сами указывают, что даже цифровые исследователи должны ждать результаты экспериментов, а изготовление оборудования и физические процессы нельзя ускорять произвольно. Обидно Да?)))

Гиперболический рост

Статья обсуждает возможность роста, при котором скорость улучшения сама увеличивается. Но она также признает, что в конечных физических системах подобный рост обычно переходит в S-образную кривую из-за ограничений ресурсов.

Короче - Интеллектуальный взрыв в статье не предсказывается. Он рассматривается как хвост распределения возможных сценариев.

Т.е. умеренное ускорение исследований ИИ весьма правдоподобно. Полностью автономное рекурсивное самоулучшение и быстрый "взрыв интеллекта" остаются неподтвержденными гипотезами.

5. ASI как коллектив агентов

Аргумент авторов

Даже если отдельная система остается на уровне человека, множество специализированных агентов может образовать:

Авторы предполагают, что высокая скорость связи, копирование состояния и специализация могут сделать такие коллективы значительно эффективнее человеческих организаций.

Сильная сторона аргумента

У цифровых агентов действительно есть структурные преимущества:

Эти преимущества перечислены авторами отдельно и являются одной из наиболее убедительных частей статьи.

Слабая сторона аргумента

Больше агентов не всегда означает более разумный коллектив!!! Больше идиотов не значит больше интеллекта.

Возможные отрицательные эффекты:

Авторы признают, что неизвестно, дает ли коллектив одинаковых моделей синергетический эффект и как интеллект масштабируется с размером группы.

Это один из наиболее реалистичных путей к системам с очень высокой экономической производительностью. Но называть такой коллектив ASI можно только после определения критериев. Иначе очень мощная автоматизированная организация просто переименовывается в "сверхинтеллект".

Вердикт: высокая вероятность появления крупных коллективов агентов. Низкая уверенность, что их эффективность будет сверхлинейно расти и достигнет заявленного уровня ASI.

6. Ограничения, перечисленные авторами

Статья выделяет шесть основных тормозящих факторов:

Этот раздел, на мой взгляд, методологически сильнее футурологических частей статьи.

Особенно существенны:

Синтетические данные

Статья конечно не утверждает, что синтетические данные обязательно решат проблему.

Исследования показывают:

То есть "стена данных" является реальной проблемой, но не установленным абсолютным пределом.

7. Насколько убедительно использование AIXI

Это наиболее спорная теоретическая часть.

AIXI является математической моделью идеального агента, который:

Но AIXI:

Сами авторы признают вычислительную непрактичность, разрыв между теорией AIXI и современным глубоким обучением, а также отсутствие законченной связи между ними.

Фраза о том, что предел машинного интеллекта "теоретически хорошо понят", звучит сильнее, чем позволяют основания.

Более точная формулировка:

Существует формальная модель идеализированного универсального агента с рядом доказанных асимптотических свойств.

Из этого не следует:

Вердикт: AIXI полезен как концептуальная верхняя граница. Он почти ничего не говорит о реальной дистанции от нынешних моделей до ASI.

8. Главные методологические слабости статьи

8.1. Нет исходной вероятности появления AGI

Статья почти целиком условна:

Предположим, что AGI создан. Что будет дальше?

Это допустимый предмет исследования. Но читатель легко может воспринять подробность последующих сценариев как доказательство реалистичности исходной предпосылки.

В действительности статья не доказывает:

8.2. Смешение возможностей и вероятностей

Многие рассуждения имеют форму:

Логически это корректно. Но пространство физически возможных сценариев огромно. Факт, что сценарий нельзя исключить, ничего не говорит о его вероятности.

8.3. Сценарное пространство построено вокруг продолжения роста

Статья подробно рассматривает четыре способа продолжения прогресса, но менее подробно анализирует сценарии, при которых:

Остановочные сценарии присутствуют в качестве "frictions", но композиционно они выглядят как препятствия на пути к ASI, а не как равноправные конечные состояния.

8.4. Нечеткая операционализация AGI и ASI

"Большинство когнитивных задач" и "практически все области человеческой деятельности" невозможно однозначно измерить.

Неясно:

Авторы осознают эту проблему и предлагают развивать новые тесты, которые не насыщаются на человеческом уровне.

8.5. Предположение о решаемости alignment

Авторы прямо принимают рабочее допущение, что безопасность и управляемость будут решены в достаточной степени, чтобы сосредоточиться на технологической траектории. При этом они признают, что это тяжелое и вовсе не гарантированное допущение.

Это существенно. Неуправляемая система, которую нельзя надежно применять, не превращается в практически полезную ASI только из-за высоких результатов тестов.

9. Что в статье действительно ценно

Наиболее сильные элементы:

1. Отказ от единственного сценария

Авторы не утверждают, что ASI обязательно возникнет через масштабирование или самоулучшение. Они рассматривают несколько параллельных путей.

2. Учет физических ограничений

В статье прямо сказано, что даже ASI будет ограничен:

3. Разделение цифрового и биологического интеллекта

Авторы правильно указывают, что цифровые системы обладают свойствами, отсутствующими у людей:

Это более серьезный аргумент в пользу потенциально сверхчеловеческих систем, чем простое утверждение "модель станет умнее человека".

4. Исследовательская повестка

Раздел 7.1 полезен практически. Авторы предлагают измерять:

Этот сюжет не закончен.

Статья достоверна в описании того, что неизвестно. Она гораздо менее достоверна в косвенном внушении, что путь к ASI уже просматривается.

Можно разделить ее выводы на три категории.

Хорошо обосновано

Правдоподобно, но не доказано

Спекулятивно

Но мне кажется у этих людей профессиональная деформация, они разработчики собственной модели и уже практически молятся на эти трансформеры и объем вычислений. Мне кажется ограничения в другом, все что мы сейчас развиваем в качестве ИИ (искусственый интеллект) неверно классифицируется в принципе. Это конечно ИИ, но только это Имитатор интеллекта, причем какого-то несуществующего, симулякр общественного сознания, отбрасывающий тень текстами . Это призрачные копии несуществующей реальности, которые как-то коррелируют с бытием. Поэтому вся эта гонка все же куда-то не туда. Но наблюдать интересно.

Основная профессиональная деформация авторов в том, что они почти автоматически принимают улучшение предсказательной машины за движение по шкале интеллекта. Внутри их картины мира это естественно: больше данных, лучше сжатие, больше вычислений, длиннее планирование, больше агентов. Но сама шкала может быть выбрана неверно.

Современная языковая модель не является копией индивидуального человеческого разума. Она скорее строит статистически согласованную модель следов, оставленных множеством людей:

Но никакого единого «общественного сознания», оригиналом которого она могла бы быть, не существует. Поэтому слово симулякр здесь точнее обычного «имитатор человека». Модель имитирует не человека, а некоторую вычисленную поверхность коллективного дискурса.

Получается странная конструкция:

То есть связь с бытием действительно есть, но она опосредована несколькими слоями утраты и преобразования. Модель видит не мир, а осадок человеческого взаимодействия с миром.

При этом я конечно не сводил бы ее к пустой тени. В некоторых режимах из такого материала можно собрать новые полезные комбинации, проверить логическую совместимость идей, найти скрытые связи, сжать огромный массив культуры в рабочий инструмент. Но это еще не означает появления субъекта, который:

Именно здесь, вероятно, находится более фундаментальное ограничение, чем нехватка токенов или электроэнергии.

Авторы статьи описывают «барьер абстракций», но трактуют его как возможную техническую проблему текущей парадигмы: модель обучена на человеческих понятиях и, возможно, не умеет создавать новые. На мой взгляд, проблема глубже. Новое понятие возникает не просто из комбинации старых символов, а из сопротивления среды, неудачи действия, изменения цели, телесного или инструментального опыта. Текстовая модель может очень убедительно переставлять карты, но не обязательно знает, где находится местность.))

Поэтому гонка может оказаться направлена не к искусственному разуму, а к созданию все более мощной машины культурного отражения и операционного управления символами. Такая машина может радикально изменить экономику и общество даже без сознания, понимания и «настоящего интеллекта». В этом и парадокс: ошибочная классификация не делает технологию слабой (но меня бесит).

Она может быть не разумом, а чрезвычайно эффективным протезом цивилизационной памяти, речи и бюрократии. И этого уже достаточно, чтобы последствия оказались огромными.

Самая сомнительная часть всей AGI-риторики состоит в молчаливой подмене:

все более правдоподобное и результативное интеллектуальное поведение равно все более глубокому интеллекту.

Это не доказано. Возможно, мы просто смотрим как строится все более яркая тень и по качеству тени судим о существовании объекта, которого за ней никогда не было.