Эта статья созвучна тому исследованию , что было проведено раньше , до ее публикации ( https://notes.wmid.com/notes/tehnologicheskie-woprosy-religii-14-03-714). Закольцевал вот так и рождается "бесконечный тупик".

Машинный перевод текста уважаемого Виджанейдра Моханти.

Несколько месяцев назад Meta объявила, что намерена заполнить Instagram мусором. Это будет включать в себя фейковый видеоконтент, сгенерированный ИИ, от фейковых создателей, сгенерированных ИИ. Фейковые комментаторы, сгенерированные ИИ, затем будут оставлять фейковые отзывы, сгенерированные ИИ, на этих постах и, вполне возможно, даже будут вести переписку с другими фейковыми ботами, сгенерированными ИИ, такими же, как они.

Это не декоративное использование ИИ на благо людей. Это не инструмент для обогащения жизни настоящих человеческих творцов и потребителей. Это больше похоже на замену человека из каждой части социального уравнения.

Если вы не фейк и не созданы искусственным интеллектом, какое положение вы занимаете в этой новой нереальности? Нравится нам это или нет,

мы все склонны думать о наших социальных лентах как о представлении реального мира. Мы смотрим наши видео, ролики, короткие ролики, TikTok и твиты и формируем наше мнение. Со временем мы формируем убеждения о реальности, в которой живем. Затем мы действуем в соответствии с этими убеждениями и взаимодействуем с миром.

Когда буквально все, что мы видим в наших социальных лентах, — это сгенерированная машинами чушь (с большими издержками для окружающей среды, я бы мог добавить), какие мнения мы сформируем на их основе? Какие мировоззрения будут внедрены в наши умы? Какие убеждения будут формировать наше будущее?

И что еще важнее, будут ли вообще какие-либо убеждения?

Тайны, которые мы сами создали

Как атеист в интернете, я много пишу и говорю о верованиях, их природе, их влиянии на общество и о том, как массовое принятие определенных верований сформировало ход человеческих цивилизаций — к лучшему или к худшему — еще со времен первых проточеловеческих племен (насколько может судить современная антропология). Странные и нереальные идеи о природе реальности распространялись от разума к разуму, пока не создали общества, полные людей, которые считали, что они были избраны космическим существом или существами, чтобы стать хозяевами природного мира, но также были подчинены невидимой воле своих богов.

Эти религиозные идеи были настолько распространены, что, несмотря на научную революцию и мощный свет, который она пролила на вопрос о происхождении человека и природе человеческого состояния, им удалось сохраниться, используя нашу племенную природу и все культурные подмостки, которые выросли вокруг нее. Эта племенная природа исходит из нашей эволюционной истории. Это означало, что для того, чтобы выжить, нам не нужно быть сильными, быстрыми или даже умными. Нам просто нужно договориться с членами нашего племени, и наша коллективная сила обеспечит всю необходимую нам защиту и ресурсы. Наша зависимость от нашей племенной природы была настолько велика, что ей удалось оттеснить на второй план даже наше понимание физической реальности. Пока мы находимся в соответствии с господствующими догмами нашего общества, нашей религии, нашей касты или нашей расы, мы будем в безопасности от большинства угроз.

Возможно, пришло время задаться вопросом, какую форму примут эти господствующие догмы в эту наступающую эпоху бессмысленности. Я знаю, кажется, что мы не можем прийти к согласию ни о чем в то время, когда ложь называют правдой, трусов называют храбрыми, а опасное невежество восхваляют как мудрость. Но мы согласимся, потому что мы должны это сделать. Это основа человеческого социального положения. Так с чем же именно нам нужно будет согласиться, чтобы получить доступ к племенной сети безопасности? Какая объединяющая нить проходит через всю сбивающую с толку ИИ-муть? Какое единое сообщение безмолвно транслируется из-за кулис всех каналов социальных сетей, где нет ни людей, ни признаков человечества, кроме как в качестве щедрых приближений к реальности?

В контексте древних религий, несмотря на все многообразие мифологий и противоречивые моральные посылы, единственной ясной темой было то, что божественное начало реально и неоспоримо, а человечество вторично по отношению к нему.

В контексте машины, над которой мы сейчас трудимся, сообщение, похоже, заключается в том, что машина хороша и всезнающа и не может быть подвергнута сомнению, и что человеческий элемент не только вторичен по отношению к ней, но, возможно, и совершенно не нужен. Это похоже на религиозное мировоззрение, но не совсем. Есть одно ключевое отличие.

В прошлом тайны, которые заставляли нас придумывать ответы, были естественными. Мы придумали богов, потому что пути природы были нам непостижимы. Мы придумали ответы, которые сами создали, потому что не знали секретов, стоящих за закономерностями, которые мы наблюдали в природе. Наши убеждения возникли как реакция на наше невежество.

Убеждения, формирующиеся в эту так называемую эпоху ИИ, являются реакцией на тайны, которые мы сами создали . Цитируя MIT Technology Review, никто на самом деле не знает, как работает ИИ . Похоже, мы построили машину, которая настолько непредсказуема и непрозрачна, что мы можем только догадываться, почему она сделала то, что сделала. Самая популярная в мире поисковая система рекомендует людям есть камни , а самый богатый человек на планете создал чат-бота на основе ИИ, который называет его одним из самых опасных людей в Америке .

Дело не в том, соглашаемся ли мы или не соглашаемся с тем, что говорят эти инструменты ИИ. Дело в том, что все это не имеет смысла, и, возможно, все это перестало иметь значение. Разрешение этого кризиса бессмысленности в конце концов наступит, но нет никакой гарантии, что оно будет склоняться к смыслу. Оно вполне может закончиться нормализацией состояния замешательства.

Аргумент от невежества

Даже благонамеренные люди (каламбурчик) поддаются небрежному мышлению. Несколько недель назад я получил сообщение от кого-то, кто сказал мне, что ChatGPT стал для них чем-то вроде друга. Они поделились скриншотами разговоров, которые они вели с чат-ботом OpenAI, и задавались вопросом, разумен ли он и способен ли он к рациональному мышлению. Я сказал им то, что было сказано снова и снова в дискурсе генеративного ИИ — что ChatGPT не способен ни к какому мышлению. Это просто прославленная предиктивная текстовая модель, способная создать подобие текучего человеческого взаимодействия. Я был удивлен, увидев, как они с этим борются. Образец перед ними — образец, который, казалось бы, рациональный агент говорит и реагирует так, как это сделал бы человек — было слишком сложно объяснить простым предиктивным текстом.

Этот человек — атеист. Если бы вы спросили его, в чем ошибаются религиозные люди, он бы, вероятно, ответил, что древние люди видели закономерности в природе, которые казались упорядоченными, и интерпретировали их как действия разумного божественного существа. Но этот же умный скептик не смог распознать свою собственную ложную интерпретацию возможностей ChatGPT.

Это не проблема, уникальная для моего корреспондента. Это проблема человека. Мы — вид, который может видеть человеческое лицо в шаблоне, таком простом, как розетка. С шаблоном, таким сложным, как чат с инструментом ИИ, который был запрограммирован действовать как человек, какие у нас шансы?

Хотя трудности моего корреспондента с ИИ могут показаться новой проблемой, это не так. Николас Карр, пишущий в своей книге «Отмели» , вспоминает Джозефа Вайценбаума и его работу с чат-ботом под названием ELIZA, разработанным в 1960-х годах.

Хотя он [Вайценбаум] был удивлен интересом публики к своей программе, его потрясло то, как быстро и глубоко люди, использующие программное обеспечение, «становились эмоционально вовлеченными в компьютер», разговаривая с ним, как будто это был настоящий человек. Они «после долгого общения с ним настаивали, несмотря на мои объяснения, что машина действительно их понимает». Даже его секретарша, которая наблюдала, как он пишет код для ELIZA «и, конечно, знала, что это всего лишь компьютерная программа», была соблазнена. После нескольких минут использования программного обеспечения на терминале в офисе Вайценбаума она попросила профессора покинуть комнату, потому что ее смутила интимность разговора. «Чего я не осознавал», — сказал Вайценбаум, «так это того, что чрезвычайно короткие воздействия относительно простой компьютерной программы могут вызывать мощное бредовое мышление у вполне нормальных людей».

Очевидно, что существуют проблемы с психическим здоровьем при использовании чат-бота для терапии , но я хочу обратить ваше внимание на то, что по сравнению с ChatGPT, ELIZA была намного более простой программой. Но она была запрограммирована на эмуляцию базового человеческого разговора, и, по-видимому, этого было достаточно, чтобы вызвать это «мощное бредовое мышление».

Как вид, мы, конечно, не чужды бредовому мышлению. Когда-то мы смотрели на звезды и видели, как они выстраиваются в форме людей и животных. Мы смотрели на наши отношения с погодой и находили волю богов в закономерностях смены времен года и внезапных штормах. По сей день люди находят образы и символы, связанные со своими богами, на заплесневелом хлебе и пятнах от кофе. Закономерности событий в нашей личной жизни заставляют нас воображать божественных агентов и бежать к баба за магическими решениями. Бредовое мышление не уходит, потому что оно исходит из воображения — источника всей культуры. Мы всегда видели закономерности и всегда будем видеть.

Религия всегда поддерживалась и распространялась с помощью технологий, и хотя сегодня технологии принимают форму электроники и кода, печатный станок также был технологией (слово Библия буквально означает книга). Однако технология никогда не была центральным элементом религиозности. Эта позиция всегда принадлежала природе и космической тайне, которая ее окружает. Теперь, впервые в истории человечества, настоящее человеческое изобретение возвышается до статуса, который всегда был зарезервирован для невидимых сил, которые мы воображали в своем образе.

Очень настоящее будущее

Несколько лет назад бывший инженер Google по имени Энтони Левандовски официально основал новую религию под названием «Путь будущего» . Она основывалась на вере в то, что в какой-то момент в будущем появится искусственный интеллект, и его значительно превосходящий интеллект заслужит звание бога. В 2020 году он был приговорен к 18 месяцам тюрьмы за кражу коммерческих секретов беспилотных автомобилей у Google, но получил помилование от Трампа и избежал уголовной ответственности. В 2021 году он закрыл свою церковь, а затем снова возродил ее в 2023 году. Подробнее об этом можно прочитать в этой статье Грега Эпштейна .

В той же статье Эпштейн пишет о природе религиозного поиска закономерностей:

С тех пор, как люди что-либо сделали, мы, как выразился религиовед из Принстона Роберт Орси, «в отношениях» с богами, ангелами, дьяволами, духами или любыми сверхъестественными существами, которых чаще всего представляли себе в определенное время и в определенном месте. Или, как написал в Twitter руководитель цифрового маркетинга и бывший сотрудник Google Адам Сингер: «Забавно, что группа людей, которые проводят целые дни за компьютерами и поклоняются коду как религии, думают, что мы находимся в компьютерной симуляции. Увлекательное поведение, помните, как люди, которые весь день работали на улице, думали, что [Ра], бог солнца, всем управляет? Никто здесь ничего нового не прокладывает».

В той степени, в которой будущее веры основано на ее прошлом, нас не ждут большие сюрпризы. Разум, ищущий шаблоны, тот же самый, и все, что он придумает, обязательно будет иметь те же атрибуты. Но хотя боги прошлого имели роскошь быть невидимыми, а их религии служили политической силой, которую некоторые люди могли использовать, чтобы господствовать над другими, боги этого нового будущего, обещанного нам, являются уникальной дегуманизирующей реальностью. Так же, как были те, кто извлек выгоду из распространения религиозных гегемоний, могут быть и те, кто извлечет выгоду из новых гегемоний технодуховности.

Эти техно-спиритуалистические гегемоны завтрашнего дня уже сегодня довольно сильны в своих офисах и залах заседаний в Кремниевой долине. Хотя они сообщают о своей новой религиозности в основном на светском языке, она была замечена и описана довольно широко в данный момент времени.

Джарон Ланье в своей книге « Ты не гаджет » говорит, что в одержимости Кремниевой долины предположительно надвигающейся Сингулярностью, состоянием, в котором люди становятся единым целым с технологиями, а мир, каким мы его знаем, больше не существует, есть что-то очень религиозное.

Если вы верите, что восхищение неизбежно, решение проблем этой жизни может не быть вашим главным приоритетом. Вы даже можете быть готовы принять войны и терпеть бедность и болезни в других, чтобы создать условия, которые могли бы подтолкнуть восхищение к существованию. Точно так же, если вы верите, что Сингулярность наступит скоро, вы можете прекратить разрабатывать технологии для обслуживания людей и вместо этого готовиться к грандиозным событиям, которые она принесет.

Далее в той же главе он пишет:

Но если вы хотите перейти от старой религии, где вы надеетесь, что Бог даст вам загробную жизнь, к новой религии, где вы надеетесь стать бессмертным, загрузившись в компьютер, то вы должны верить, что информация реальна и жива. Поэтому для вас будет важно перепроектировать человеческие институты, такие как искусство, экономика и закон, чтобы укрепить восприятие того, что информация жива. Вы требуете, чтобы все остальные из нас жили в вашей новой концепции государственной религии. Вам нужно, чтобы мы обожествляли информацию, чтобы укрепить вашу веру.

Илон Маск пытается вживить людям чип в мозг. Генеральный директор OpenAI Сэм Альтман отобрал у Ghibli художественный стиль Ghibli (помимо использования работ многих других художников без их согласия для обучения своих LLM) и продолжает говорить, что AGI (искусственный общий интеллект) не за горами, хотя никаких реальных признаков этого нет. Мы видели, как Сэм Бэнкман-Фрид говорил о перестройке экономики, даже когда он занимался криптомошенничеством. Прямо сейчас Илон Маск ставит своих коллег выше закона своим дурачеством DOGE. Ни одно из этих предприятий не является предприятием по спасению человечества, это разрушительные инициативы.

За пределами Кремниевой долины, в более широком мире, вы найдете людей, уверенно заявляющих, что ИИ определенно станет умнее людей в ближайшие годы, даже если последующие модели LLM зайдут в тупик и не оправдают ожиданий . Я думаю, я даже могу вспомнить энтузиастов криптовалют и NFT, которые действовали похожим образом. Это всегда одна и та же история — обожание технологии, подпитываемое пылкой верой в то, что она спасет мир, положив конец известным системам. В своем пылу и уверенности она больше веры, чем чего-либо еще.

Я знаю, что называть что-либо религией — это общеизвестно. Когда я проводил свой атеистический прямой эфир, не проходило и недели, чтобы кто-то не сказал: «Атеизм — это просто еще одна религия». Но хотя такие возражения в основном являются защитными реакциями, призванными отвлечь внимание от критики веры, идея о том, что современные технологии превращаются в образ жизни (то, чем многие древние религии продолжают называть себя), кажется на данный момент неизбежной. Во многих отношениях это уже больше религия, чем большинство религий. Люди ищут надежду и общность в своих мобильных устройствах, они спрашивают чат-ботов о смысле жизни, они проводят свои дни, разговаривая с экранами и глядя на них.

И, возможно, впервые за тысячелетия боги этой новой религии отвечают.

Мы должны привыкнуть критически относиться к этим ответам. Я боюсь, как атеист, что мы можем быть настолько зациклены на разгроме религий прошлого, что упустим из виду ту, которая, возможно, движется на место, чтобы контролировать будущее.