Большие языковые модели как когнитивный вирус

Массовый переход на ИИ произойдёт не постепенно, а рывком. И отказаться потом будет намного труднее, чем не допустить сейчас. Это не публицистика — это следствие из модели, у которой есть уравнения и точки перелома.

На прошлой неделе прочёл статью «Large-Language Models as a Cognitive Virus» — Рикард Соле, Джулио Руффини, Франческа Кастальдо, Луис Сеоане, Дэвид Кракауэр, Майкл Левин и ещё трое соавторов. Ключевая идея: распространение больших языковых моделей можно описывать той же математикой, что и эпидемии.

Важно сразу снять напрашивающееся прочтение. Речь не о том, что LLM «вредны» — вирусная аналогия здесь не оценка, а структура. У распространения моделей та же механика, что у распространения инфекции: полезность подстёгивает принятие, принятие меняет самого пользователя, изменённый пользователь становится вектором дальнейшего распространения. Дальше работает не мораль, а динамика.

Три состояния и четыре перехода

Вся модель — это три состояния, в которых может находиться человек, и переходы между ними.

Почему рывком, а не постепенно

Самому думать легче, когда так делают все вокруг. Это работает как норма: школа, коллеги, привычки среды. Пока самостоятельных много, они поддерживают друг друга — и переход обратно из «пользуюсь» в «делаю сам» остаётся дешёвым.

Дальше начинается неприятное. Чем меньше таких людей, тем слабее поддержка, и тем дешевле следующему переложить работу на модель. Параллельно слабеют сами социальные связи: получать поддержку в живом общении становится сложнее, потому что живого общения меньше. Спираль раскручивает сама себя.

Именно поэтому переход не размазан по времени. У системы есть порог, за которым небольшой прирост использования вызывает быстрый сдвиг всей популяции. В терминах статьи — runaway dynamics: до порога ничего особенного не происходит, после порога происходит всё сразу.

Обвал и возврат происходят в разных точках

Здесь самое важное, и это не эмоциональный тезис, а свойство уравнений.

Чтобы вернуться, нужно прикладывать самостоятельные усилия — без общественной поддержки, которой уже нет, и без части навыков, которые уже утрачены. Система «залипает»: условия вернулись к прежним, а состояние осталось новым. Это и есть лок-ин.

Ту же историю проще увидеть на шарике в рельефе. Слева — разгрузка, справа — автономия; чем выше давление, тем сильнее рельеф перекашивает влево.

Что именно теряется

Модель аккуратно различает две разные вещи: что человек может сделать с инструментом и что у него останется, если инструмент убрать. Первое растёт. Страдает второе.

В расчётном примере статьи эта остаточная способность в момент массового перехода падает примерно вдвое — с 1 до ≈0,42 по шкале модели. Причём падает не плавно: обвал компетенции происходит там же, где обвал состояния, — рывком.

Для компании это переводится буквально. Команда, которая работает быстрее и делает больше, — и та же команда, которая при недоступности инструмента откатывается не к прежней производительности, а вдвое ниже неё. Это не гипотеза о далёком будущем, а вопрос, который стоит уметь себе задавать уже сейчас.

Что из этого следует делать

Отказываться от ИИ авторы не предлагают — они это прямо оговаривают. Предлагают то, что называют когнитивной иммунизацией: снижать интенсивность передачи и удерживать обратимость. Каждая мера бьёт в свой коэффициент модели.

И отдельно — важная деталь, которую легко пропустить. Одной коллективной защиты мало, и при определённых условиях она играет против вас. Сильная норма повышает порог входа, это хорошо. Но если она перевешивает индивидуальную обратимость — в терминах модели κ > ρ, — она расширяет саму зону залипания: перелом наступает позже, зато возврат из него становится ещё труднее. Нужны и нормы, и пути назад одновременно.

Насколько этому верить

Это упрощённая модель, и авторы её не переоценивают. Сетевая структура общества не моделируется. Развитие самих моделей не учитывается — а оно идёт быстро и меняет условия задачи. Главное допущение — что зависимость от ИИ снижает компетентность — задано в модели вручную, как иллюстративное; эмпирические работы, на которые авторы ссылаются, указывают в ту же сторону, но доказательством внутри этой статьи не являются.

Так что читать это стоит не как прогноз, а как аргумент о форме процесса. Форма такая: переход резкий, возврат дорогой, и разница между «не допустить» и «откатить» измеряется не усилием, а порядком усилия.

Что я об этом думаю

Мой оптимизм строится на простом наблюдении: ощутив вред, люди объединяются перед лицом угрозы и восстанавливают социум. Так человек устроен, и в истории это срабатывало не раз.

Пессимизм — в том, где именно эта «эпидемия» ударит сильнее. Скорее всего, по тем, у кого меньше образовательного ресурса на сопротивление: там, где нет среды, поддерживающей самостоятельное мышление, порог проходится быстрее и незаметнее. Если так, мы получим новую форму сегрегации — уже не по цвету кожи, а по когнитивным и интеллектуальным признакам. И это расслоение будет воспроизводить само себя.

Мне кажется, у бизнеса тут есть роль, которую он пока не осознал. Компания — это ровно та среда, о которой идёт речь во втором пункте: она может либо ускорять сползание, либо удерживать обратимость. Причём удерживать не лозунгами, а устройством работы.