Внутри того, что происходит вокруг ИИ, есть поразительный сюжет — книжный. И вот сейчас очередное обострение. Оказывается, книги в процессе обучения моделей уничтожаются сотнями тысяч и по этому поводу у образованных людей случился приступ моральной паники со статьями, телесюжетами и ветками в «твиттере».
Суд из-за книг, или Зачем лишать человечество знаний
Бумажную книгу можно скормить ИИ-модели двумя способами. Первый: срезать корешок, пропустить листы через протяжный сканер, остатки в переработку. Быстро и дёшево. Второй: раскрывать разворот за разворотом под камерой – медленно и дорого. Обе услуги предлагает одна и та же контора: подрядчик, которого нанимала «Anthropic» (американская частная компания в сфере искусственного интеллекта, создавшая чат-бот «Claude», которым активно пользуются американские госструктуры, включая разведку и армию), в предложении прямо указывает «деструктивное» и «недеструктивное» сканирование больших объёмов.
«Anthropic» выбрала первый путь. Во внутренних документах, вскрытых судом (в рамках сюжета уже и суды есть, ждущие своего Гришема, американского писателя и адвоката, чьи юридические триллеры экранизированы Голливудом – «Время убивать» с Мэттью Макконахи, «Фирма» с Томом Крузом, «Дело о пеликанах» с Джулией Робертс, «Клиент» с Сьюзан Сарандон, «Благодетель» с Дэнни де Вито и др.), есть целый ворох смет. И вот с этой развилки, где кто-то поставил галочку в графе «дешевле», пошло-поехало.
Лучший текст по теме лежит на сайте компании «ISBNdb», которая тридцать лет вела базу штрихкодов, а сегодня подбирает ИИ-лабораториям бумажные книги партиями до миллиона штук: «Эти книги уже полностью погасили свои финансовые обязательства перед своими создателями». Там же про обязательную переработку корешков: ответственная утилизация — «завершение жизненного цикла книги: от дерева к знанию и обратно к дереву».
Раньше знания люди «приобретали» долго, а результат хранился в голове, куда не дотягивается ни один юрист. Это делало знания худшим из активов с точки зрения капитала: неотчуждаемый, ненаследуемый, неликвидный. Теперь знания приобретают в прямом смысле, с накладной. На входе предмет: 300 г, штамп расформированной библиотеки, чья-то пометка карандашом. Гидравлический нож, сканер, утилизация. На выходе: сдвиг в распределении вероятностей внутри продукта юрлица.
Американский суд признал это законным, потому что предмет (книга) уничтожался, а содержание нет. Предмет (книгу) можно было подарить, завещать, конфисковать, запретить, вывезти в чемодане, спрятать в стене и найти через двести лет на чердаке. После обработки сканером, уничтожающую бумажную книгу, существует нематериальный актив на балансе. Товарный запас списан, интеллектуальная собственность оприходована. Букинист, торгующий специальной литературой, рассказывает в ТВ-сюжете, что с апреля 2026 года продаёт тысячи книг в неделю вместо десятков. Главный признак покупателя (компании в сфере искусственного интеллекта): полное безразличие к цене. «Это примета ИИ, у них очень много денег». И там же объяснение, откуда взялся товарный излишек. Раньше такие книги покупали школы и библиотеки, но покупки идут вниз из-за сокращения госфинансирования, университетские библиотеки ничего не берут. Один и тот же корпус специализированных монографий. Институт, который покупал бумажные книги, чтобы люди читали, разорён. Институт, который покупает бумажные книги, чтобы люди больше не читали, платит.
И капитал, и государство не волнуют такие важные вопросы, как: что происходит с грамотностью детей в странах, где голосовые помощники появились раньше, чем закрепился навык чтения и письма? Как меняется способность к самостоятельному суждению у людей, которые с подросткового возраста делегируют формулировку мыслей языковой модели? Какие когнитивные навыки исчезают в первом поколении, выросшем с ИИ-ассистентами, и исчезают ли они навсегда или восстановимы? А ведь хотя бы часть ответов могла бы указывать на то, что определённые продукты не стоит делать безусловно доступными.
Возвращаясь к суду. Авторы в коллективном иске судились с «Anthropic» два года и получили следующее. Пиратство признано, за него заплачено полтора миллиарда — крупнейшее урегулирование по авторскому праву в истории США. Вопрос, ради которого всё затевалось, решён отдельно: покупать книги легально, перемалывать и обучать на них модель — добросовестное использование. Плата присуждена за то, что компания поленилась купить то, что можно было купить. То есть, сегодняшний рыдающий класс сходил в суд, выиграл компенсацию и проиграл принцип. По обоюдному согласию, кстати, истцы взяли деньги, ответчик закрепил правило.
Итого. Столетиями культурный капитал был единственным активом, где у образованного человека имелось преимущество перед капиталом. Прочли больше, помним точнее, различаем издания, знаем, где искать и зачем искать. Сегодня этот актив купили по цене макулатуры, отсортировали по штрихкоду и поставили на баланс. Отсюда и накал эмоций: хоронят не книгу, а последнее место, где интеллигенция котировалась выше своей зарплаты, где буквально стоила выше мусора в глазах начальства. Эта страница закрыта.
А вот книги жалко. Букинист из репортажа сформулировал это в граните: «Деньги хорошие, склад разгружается, а конец у книжек так себе».
Обмануть ИИ? Проще простого!
И да, государства сами заинтересованы в проникновении ИИ. В ноябре 2025 президент США Дональд Трамп подписал указ о «Genesis Mission» — «крупнейшей мобилизации федеральных научных ресурсов». Федеральные дата-сеты, суперкомпьютеры американских лабораторий и исследовательская инфраструктура передаются в распоряжение платформы с ключевыми партнёрами – технокомпаниями «Nvidia», «OpenAI», «Anthropic», «Palantir». Цель — «ускорить научные открытия с лет до дней» через AI (ИИ).
Однако, у «Genesis Mission» нет ни бюджета, ни конкретной цели, ни механизмов подотчётности государству, то бишь, госконтроля результата. Задача сводится к созданию «ИИ-агентов», которые будут автономно «делать открытия за часы, а не годы». Загрузим что есть в черный ящик, а он нам выдаст еще десяток чёрных ящиков на все случаи жизни – от медицины до материалов и космоса.
При этом указ отводит 120 дней на «оптимизацию данных для обучения моделей», что технологически нереализуемо. Качественная «разметка» (так называется подготовка массивов для обучения ИИ) — месяцы работы с оцифрованными данными, годы — для неструктурированными. Требуется аудит совместимости между субъектами – собственниками дата-сетов, стандартизация форматов, валидация, создание метаданных. «AlphaFold» (Нобиль по биологии 2024) обучался на «Protein Data Bank», который собирался с 1971 года. Проект «Human Genome» занял 13 лет. Никакой указ не отменяет эту реальность.
И, увы, AI-модели, обученные на некачественных данных, демонстрируют высокий уровень галлюцинаций — уверенно генерируют ложную информацию. Для научных применений — фатальный дефект.
Показательна такая история. Шведский медицинский исследователь Тунстрём решила проверить, как распространяется ложная медицинская информация через ИИ-инструменты. Она изобрела болезнь «биксоманию» и описала ее. Название выбрано намеренно неофтальмологическое: термины на -мания зарезервированы для психиатрии. Автором статей указан Lazljiv Izgubljenovic – «лживый неудачник» по-боснийски — сотрудник выдуманного университета несуществующего города. В благодарностях: финансирование от Университета Братства Кольца и Галактической Триады, исследования проводились на борту звездолёта «Энтерпрайз».
Через некоторое время «Copilot» сообщал пользователям, что биксомания – «интригующее и относительно редкое состояние», «Gemini» рекомендовал обратиться к офтальмологу, «ChatGPT» помогал определить, совпадают ли симптомы пользователя с профилем болезни. Потом биксомания появилась в рецензируемых журналах — живые авторы цитировали данные со звездолёта. Препринты давно удалены. Биксомания живёт.
Принято говорить: ИИ галлюцинирует, ИИ ошибается, нужно лучше фильтровать. Это разговор об инструменте. Настоящий же разговор о знании. Знание бывает двух типов.
Первый верифицируется реальностью. Врач ошибся — пациент умер. Разведчик ошибся — операция провалилась. Инженер ошибся — мост упал. Здесь между высказыванием и последствием существует прямая связь. Именно она создаёт экспертность как таковую, а не дипломы, не стаж, не репутация.
Второй верифицируется консенсусом. Аналитик McKinsey написал отчёт — все кивнули, никто не прочитал, решение было принято до. Эксперт высказался в телевизионной студии — дискурс оформлен, спроси его через час, что он там рассказывал, он не сможет воспроизвести… Здесь высказывание не производит знание. Оно производит легитимацию. Разница не в качестве людей и не в глубине анализа. Разница в том, прилетает ли что-нибудь обратно из реальности.
ИИ — идеальная машина второго типа. Он оптимизирует правдоподобие, а не истину. В большинстве случаев они совпадают. Отсюда иллюзия, что система знает. А если расходятся, тогда биксомания становится редким состоянием. Для ритуализированного знания это нормально. Форма соблюдена, консенсус нарастает, Галактическая Триада в сносках никого не смущает — потому что сноски никто не читает. Как и официальные отзывы со стенограммами.
К тому же, «Genesis Mission» анонсировался на фоне масштабных сокращений традиционной науки. В США урезали миллиард в год на медицинские исследования, отменили федеральное финансирование научных журналов и еще кучу всего по всему контуру передовой науки. Тысячи учёных потеряли работу и гранты. Логика: живая наука — дорого, медленно, неуправляемо. AI — дорого, но быстро, и главное — контролируется владельцами моделей.
Как технокорпорации присосались к государству
«Genesis Mission» следует понимать не как научный, а как финансовый проект. AI-индустрия демонстрирует признаки пузыря: «OpenAI» тратит больше, чем зарабатывает, масштабирование моделей даёт убывающую отдачу, инвесторы нервничают. Государственный американский «мегапроект» легитимирует нарратив о стратегической важности отрасли, гарантирует вливание денег через госзаказ, снижает регуляторные риски. С экономической точки зрения это «превентивное количественное смягчение» в стиле спасения банков 2008-2009, но до того, как грянет гром.
Плюс ко всему, налицо — инверсия принципала и агента. Классическая схема: государство (принципал) нанимает корпорацию (агент) для выполнения задачи. Принципал определяет цели, агент исполняет. «Genesis Mission» – ровно наоборот. Формально Big Tech — исполнитель государственного заказа. Фактически — технологические компании получают доступ к уникальным государственным активам (дата-сеты) и деньгам, при этом сами определяют, что считать «прорывом», какие задачи «приоритетны», какие результаты «успешны». Государство не заказчик, а ресурсная база. Государственные ресурсы текут в частные корпорации без бюджета, без отчётности, без контроля над результатом.
Эта модель имеет теоретика — Алекса Карпа, CEO «Palantir». В «The Technological Republic» он формулирует: безопасность демократии требует симбиоза государства и технологических корпораций. Безопасность при этом понимается не как защита, а как господство и подавление остальных. А Big Tech — не подрядчик, а несущая конструкция государственности. «Genesis Mission» — практическая реализация этой философии.
…Держатели платформ — «Google», «OpenAI», «Anthropic», «Meta» и пр. — сегодня определяют для миллиарда людей, что можно знать и о чём можно думать. За 2025 год эти технокорпорации стали богаче на триллион. Их власть сравнима с церковной в средние века.
Глеб Кузнецов, t.me/glebsmith77