Тут Рохит Кумар Такур статью алармистскую написал, перевод представлен. Проблема важная - все боятся засилья ИИ (а китайцы еще как накидывают - ии вставят везде где смогут засунуть от зубной щетки и унитаза до трамвая ), тревога за детей, проблемы с обучением. Да и часто попадаются данные, что программист с ИИ на 19% менее производителен, чем без ИИ. Поэтому разбор исследования и выводы важно узнать.

Новое исследование сканирования мозга Массачусетского технологического института выявило ужасающую стоимость использования ChatGPT

У каждого из нас есть такой друг. Тот, кто начал использовать ChatGPT для всего: электронной почты, отчётов, творческих идей, и вдруг стал «гением продуктивности».

Они справляются с задачами вдвое быстрее. Их текст звучит безупречно. Кажется, они работают на более высоком уровне.

Но что, если я скажу вам, что эта новая скорость даёт пугающую цену? Что, если тот же инструмент, который заставляет их казаться умнее, на самом деле заставляет их разучиться думать?

Исследователи из Массачусетского технологического института (MIT Media Lab) только что завершили первое в истории лонгитюдное исследование когнитивных эффектов использования помощников на основе искусственного интеллекта, таких как ChatGPT, для решения распространенной задачи: написания эссе.

Они подключили участников к аппаратам ЭЭГ на четыре месяца, заглядывали непосредственно в их мозг, и то, что они обнаружили, серьезно тревожит всех, кто заботится о возможностях их мозга.

Это не антиутопическое предсказание. Это документированная реальность. Эра «когнитивного долга», вызванного искусственным интеллектом, уже наступила, и большинство из нас накапливают его, даже не подозревая об этом.

День, когда иллюзия рухнула

Исследование, проведенное Натальей Косминой, было элегантно простым. Пятьдесят четыре участника из ведущих университетов, таких как Массачусетский технологический институт, Гарвард и Уэллсли, были разделены на три группы:

После каждого 20-минутного сеанса письма исследователи задавали простой вопрос: «Можете ли вы процитировать любое предложение из только что написанного вами эссе?»

Ответы были невероятными.

В первом сеансе поразительное количество пользователей ChatGPT — 83,3% — не смогли правильно процитировать ни одного предложения.

Они только что провели 20 минут с текстом, но их мозг его не усвоил. Как будто информация прошла сквозь их глаза и пальцы, полностью минуя когнитивные контуры, отвечающие за память и понимание. Они позволили чему-то другому думать, поэтому их мозг не удосужился вмешаться.

Между тем, группы «Brain-only» и «Search Engine» цитировали свою работу практически с идеальной точностью. Они проделали умственную работу, а наградой им стала память.

Это не было случайным совпадением. Низкие показатели памяти и припоминания у группы LLM были постоянной темой на протяжении всего исследования. Они были когнитивно оторваны от самой работы, которую выполняли.

«Бездушные» эссе

Исследователи также привлекли двух профессиональных преподавателей английского языка для оценки эссе. Преподавателям не предоставлялась никакая информация о группах или использовании ИИ. Они оценивали работы, не имея никакой дополнительной информации.

Однако они сразу почувствовали, что с эссе группы LLM что-то не так.

Их комментарии рисуют леденящую душу картину:

«Некоторые эссе выделялись почти идеальным использованием языка и структуры, но в то же время не содержали личных идей или четких утверждений… Мы, преподаватели английского языка, воспринимали эти эссе как «бездушные» , в некотором смысле, поскольку многие предложения были пустыми с точки зрения содержания , а в эссе отсутствовали личные нюансы».

Учителя чувствовали, что чего-то не хватает. На первый взгляд, текст выглядел хорошо… грамматика была правильной, структура – идеальной… но текст казался каким-то пустым.Как спор без души.

Вот как выглядит когнитивная разгрузка. ИИ даёт вам слова, грамматику и последовательность… но не исходную мысль, стоящую за ними. И мозг автора, и мозг читателя чувствуют, когда этой искры настоящего мышления нет.

Заглянем внутрь мозга: катастрофический коллапс в связях

Поведенческие результаты были достаточно тревожными, но электроэнцефалография мозга выявила истинные неврологические повреждения. Исследователи использовали метод dDTF для измерения силы и направления нейронных связей, то есть, по сути, того, насколько хорошо различные части мозга взаимодействуют друг с другом.

Результаты показали явное систематическое снижение активности мозга в зависимости от объема внешней помощи:

Цифры шокируют. По сравнению с группой, изучавшей только мозг, у группы LLM наблюдалось снижение активности в низкочастотных диапазонах, отвечающих за глубокое мышление, семантическую обработку и формирование памяти, до 55%.

Общее количество значимых связей в альфа-диапазоне, критически важных для креативности и внутреннего формирования идей, сократилось с 79 в группе, изучавшей только мозг, до всего 42 в группе магистра права. Это означает снижение количества связей в мозге на 47%.

Если бы ваш домашний Wi-Fi потерял половину мощности сигнала, вы бы назвали его сломанным. Вот что происходит с мыслительным механизмом в наших головах. Нейронные пути, отвечающие за творчество, критический анализ и память, ослабевают, потому что мы используем их недостаточно.

Самый ужасающий эксперимент из всех: потеря способности мыслить

Вы, возможно, думаете: «Ладно, использование ИИ делает мой мозг ленивым во время выполнения задачи. Но я могу просто отключить его и думать самостоятельно, когда мне это нужно, верно?»

Неверно. И именно эта часть исследования должна вас по-настоящему напугать.

На четвёртом, заключительном сеансе исследователи поменяли группы. Участники, которые месяцами пользовались ChatGPT (группа LLM), получили задание написать эссе, не используя никаких инструментов .

Результат? Они показали гораздо худшие результаты, чем группа, работавшая только с мозгом. На самом деле, они показали не просто плохие результаты… они показали худшие результаты, чем те, кто начинал с нуля. Их мозг не просто привык полагаться на ИИ… он на самом деле стал слабее.

Представьте себе пилота, который всегда летал только на автопилоте. Система выходит из строя, и ему приходится управлять самолётом вручную. Но это не так-то просто, поскольку его лётные навыки угасли из-за редкого использования.

Сканирование мозга, проведённое в ходе этого сеанса, подтвердило наличие «когнитивной атрофии». У бывших участников программы LLM, теперь находящихся в состоянии «LLM-to-Brain», наблюдалась более слабая нейронная связь и недостаточная активность альфа- и бета-сетей, необходимых для творческого и критического мышления. Их мозг больше не мог генерировать идеи с нуля.

Хуже того, анализ их эссе с помощью НЛП показал, что они постоянно использовали фразы и идеи, которые ChatGPT давал им на предыдущих сессиях. Они словно зациклились, повторяя старые мысли ИИ, потому что не могли придумать новые самостоятельно.

Встречайте своего нового повелителя: когнитивный долг

Исследователи Массачусетского технологического института дали этому явлению название: когнитивный долг.

Как и технический долг в разработке программного обеспечения, где простые решения сегодня приводят к огромным проблемам завтра, когнитивный долг возникает, когда вы слишком полагаетесь на ментальные решения, что вредит вашей способности ясно мыслить в будущем.

Каждый раз, когда вы позволяете ChatGPT «просто начать», «отшлифовать абзац» или «найти примеры», вы берёте небольшой кредит. Немедленная плата — это скорость и удобство. Но проценты платятся валютой снижения критического мышления, ослабления памяти и угасания творческого вдохновения.

И, как и в случае с финансовыми долгами, проценты растут. Чем больше вы полагаетесь на костыль, тем слабее становятся ваши ноги и тем больше вам нужна эта опора. Это порочный круг, который заканчивается когнитивным банкротством.

Парадокс производительности, о котором никто не говорит

Вот в какую ловушку мы все попадаем. Исследования, в том числе на которые ссылается Массачусетский технологический институт, показывают, что использование ИИ может повысить вашу продуктивность в выполнении задач до 60%. Это просто фантастика. Вы успеваете сделать больше и быстрее.

Однако в статье Массачусетского технологического института подчёркиваются скрытые издержки. Использование ИИ приводит к снижению «генеральной когнитивной нагрузки» на 32%.

«Германская нагрузка» — это полезная умственная нагрузка. Она помогает нам глубоко понимать вещи, связывая новые идеи с уже известными. Так мы создаём прочные ментальные модели и переносим знания в долговременную память. Это своего рода тренировка для мозга, которая делает нас умнее.

Но когда инструменты искусственного интеллекта берут на себя всю сложную работу, они лишают нас этой умственной нагрузки. Наш мозг не получает необходимой нагрузки для развития. Мы жертвуем краткосрочной скоростью ради долгосрочной интеллектуальной слабости.

Надежда есть. Но она требует революции в нашем восприятии искусственного интеллекта.

Исследование оказалось не совсем плохим. Оно также открыло путь вперёд… способ использовать эти мощные инструменты, не жертвуя своей когнитивной целостностью.

Ключ к разгадке был получен от другой половины участников сессии 4: участников, которые начинали в группе «Только мозг», а затем впервые получили доступ к LLM.

Что случилось с их мозгом?

Их нейронные связи резко возросли .

Получив новый мощный инструмент, их мозг заработал на полную мощность. Они не просто приняли то, что им дал ИИ, но и подвергли его сомнению, доработали и сравнили с собственными идеями. Этот активный мыслительный процесс нагружал их ум сильнее, чем простое написание текста или слепое использование ИИ с самого начала.

Главный вывод: порядок имеет значение.

ИИ не должен быть отправной точкой. Его следует использовать для совершенствования и расширения собственного мышления.

Лучший и самый здоровый способ использовать ИИ — это сначала подумать и поработать над проблемой самостоятельно. Постарайтесь понять её, придумать собственные идеи и разработать собственный план. После этого используйте ИИ как помощника… как партнёра, который может подвергнуть сомнению ваши мысли, найти полезную информацию или улучшить ваши тексты.

Если вы начинаете с ИИ, вы строите на фундаменте из песка..Если вы начинаете с мозга, вы строите на прочном фундаменте.

Будущее работы не связано с выбором между человеческим и искусственным интеллектом.Речь идет о разработке рабочего процесса, который учитывает сильные стороны обоих.

Исследование Массачусетского технологического института — это тревожный сигнал. Мы находимся на перепутье, и наш выбор определит когнитивный ландшафт будущих поколений. Позволим ли мы ИИ взять верх и стать ленивыми, позволив нашему разуму угаснуть? Или мы возьмём ситуацию под контроль, используя ИИ для усиления нашего интеллекта, а не для его замены?

Выбор пока все еще за нами.Но время идет.