Появление AI-чатов

В конце 2022 года ChatGPT сделал LLM массовым явлением, предложив чат-интерфейс для взаимодействия с такими моделями и дополнительно обучив их вести себя скорее как полезный помощник.

В определенном смысле LLM — это мемекс масштаба всего общества. Они обучены на огромном массиве человеческих текстов и содержат в себе гигантскую сеть ассоциативных связей, выраженных через статистические зависимости, усвоенные во время обучения. Турецкий лук оказывается связан с физикой упругости и историей крестовых походов. Эти связи существуют внутри весов модели.

Когда вы общаетесь с LLM, вы словно отправляетесь в увлекательное путешествие по коллективным знаниям человечества. Спросите про турецкие луки — попадете в физику. Спросите про системы отопления и вентиляции — перейдете к строительным технологиям, затем к переговорам с подрядчиками, а потом к особенностям климата вашего города. Та самая «ассоциативная навигация», о которой мечтал Буш, теперь существует в масштабе всего общества.

Однако LLM-чаты вроде Claude, ChatGPT или Gemini на старте имели фундаментальное ограничения.

Отсутствие долговременной памяти

Сами по себе модели, без дополнительных продуктовых надстроек в виде «сохраненной памяти» и «истории чатов», не обладают аналогом долговременной памяти. Вы можете написать или вставить текст в окно чата, и модель ответит, опираясь на этот контекст. Но она запомнит ничего между отдельными разговорами. Каждая сессия будет начинаться с чистого листа.

Общественный мемекс не знает именно вас. Предположим, вы хотите задавать ему вопросы о своей работе, бизнесе или жизни — но у него есть много общих знаний, но почти нет конкретики. Он знает про системы вентиляции и отопления в целом, но не знает ваш дом, ваш бюджет или историю ваших проектов. Он знает все, что когда-либо писали в учебниках MBA, но относительно мало знает о вашей компании.

Поэтому в конце 2023 года ChatGPT представил пользовательские GPTs, позволив загружать документы и инструкции для конкретных задач. В 2024 году появились Claude Projects и Gemini Gems. Все это были попытки дать моделям более долговременную память через набор сохраняемых файлов.

Мой собственный — и, кажется, довольно типичный для нетехнических пользователей — сценарий использования выглядел так:

• Отдельный проект для медицинской информации и данных о здоровье;
• Отдельный проект как бизнес-консультант для части рабочих задач;
• Отдельный помощник для приготовления еды дома с рецептами и пищевыми предпочтениями.

Такой подход позволял сохранять постоянный контекст для каждой области.

Это помогало, но модель не могла учиться в процессе работы. Она не могла обновлять собственные знания, писать заметки самой себе или накапливать опыт со временем. Она умела читать, но не умела запоминать. Все зависело от того, насколько тщательно вы сами поддерживали ее контекст в актуальном состоянии.

На практике это означало постоянное и довольно утомительное обслуживание. Представьте, что вы создали проект бизнес-консультанта и загрузили туда данные о ценах, клиентах и устройстве вашей компании. Как только клиент уходит или структура бизнеса меняется, вам приходится искать соответствующие документы и обновлять их вручную.

Если таких проектов несколько, заметная часть времени начинает уходить на то, чтобы просто поддерживать AI в курсе текущего положения дел. Хуже того, проекты не могут обмениваться информацией между собой. Кулинарный помощник не знает о пищевых ограничениях, записанных в проекте про здоровье. Бизнес-консультант не знает, что через неделю вы уходите в отпуск и будете недоступны.

Это напоминает армию высококвалифицированных подрядчиков. Каждый хорошо справляется со своей задачей, но общая координация требует слишком больших усилий. Издержки на коммуникацию и синхронизацию настолько высоки, что во многих случаях проще сделать все самостоятельно.

Неспособность учиться и совершать действия

Неспособность учиться — серьезное препятствие, которое мешает использовать AI-чаты в интеллектуальном труде. Каким бы квалифицированным ни был человек, в первый день на новой работе от него редко бывает много пользы. В любой компании есть большой объем специфических знаний, которые нужно освоить.

Дваркеш Патель (Dwarkesh Patel) называл это фундаментальным узким местом. «Отсутствие непрерывного обучения — огромная, огромная проблема», — писал он. Польза человека определяется не столько его интеллектом, сколько способностью «накапливать контекст, анализировать собственные ошибки, делать небольшие улучшения и повышать эффективность по мере выполнения задачи».

В своем нынешнем виде AI-чаты на это не способны.

Есть и другое ограничение: чат может выдавать инструкции, но не может совершать действия. В прошлом году я провел несколько недель, исправляя и улучшая таблицу, которая помогала отслеживать эффективность инвестиционного портфеля.

Рабочий процесс выглядел так: я копировал фрагменты таблицы или формулы в AI-чат, задавал вопросы, а затем переносил ответы обратно в электронную таблицу.

Мой уровень владения Excel — примерно четыре балла из десяти. Я умею пользоваться им достаточно уверенно, но экспертом себя не назову. Возможность привлекать AI-чат к подобным задачам оказалась для меня огромным подспорьем. Но постоянное копирование и вставка быстро начали раздражать, и я все чаще ловил себя на мысли, что было бы гораздо удобнее, если бы модель могла просто исправлять таблицу самостоятельно.

[Частично эта проблема решается коннекторами, но не всем из них можно выдать права на запись, а не только чтение. — прим. GoPractice]

И тут на сцене появляется Claude Code.

***

***

Claude Code все помнит

Claude Code — это инструмент командной строки (CLI). На практике это означает, что он способен делать все то же, что и вы: читать, создавать и редактировать файлы на компьютере, а не просто генерировать текст в окне чата.

По сравнению с веб-интерфейсами вроде ChatGPT это принципиальное отличие. Claude Code умеет читать и записывать файлы. Его можно рассматривать как надстройку над общей «интеллектуальной массой» AI-модели.

Самый очевидный и наиболее распространенный вариант — написание программного кода.

Но писать он может что угодно, включая заметки о том, что именно он сделал и почему.

У меня есть набор инструкций (в Claude Code это называется Skills, то есть навыки), которые помогают мне писать ежемесячную рассылку. Claude Code использует эти инструкции примерно так же, как сотрудник компании использует стандартный регламент или рабочую процедуру.

Я попросил его подготовить рассылку на заданную тему. Результат оказался неплохим, но были вещи, которые мне не понравились: например, сервис сразу перешел к редактированию моих заметок.

Тогда я отредактировал текст самостоятельно и попросил:

«Сравни мою версию с той, которую подготовил ты, и обнови свои инструкции так, чтобы в следующий раз писать ближе к моему стилю».

Без каких-либо дополнительных подсказок он сформулировал новые правила и добавил их в нужное место файла с инструкциями.

Все это описывало особенности моего стиля письма, которые мне самому никогда не пришло бы в голову так явно сформулировать. Но когда я увидел их в таком виде, оказалось, что они довольно точно отражают мой стиль.

Это очень похоже на то, как человек, пишущий для меня новостную рассылку, в первый день работы мог бы делать заметки, чтобы в следующий раз лучше учитывать мои пожелания.

Когда AI может читать и записывать файлы, он получает возможность создавать собственную память. А вместе с памятью появляется и способность выполнять задачи эффективнее.

Поверх самого Claude Code можно создавать собственную инфраструктуру. Один из лучших примеров — навыки (Skills). Можно создать навык с инструкциями, как писать рассылку, закрывать месячную отчетность или оформлять коммерческие предложения.

По сути это обычные текстовые файлы на вашем компьютере, которые может прочитать и использовать любая языковая модель. Аналогия с тем, как работают специалисты интеллектуального труда, здесь довольно очевидна.

Разумеется, контроль и оценка по-прежнему нужны. Модели все еще ошибаются. Но все, кого я знаю и кто пробовал использовать Claude Code для подобных задач, были поражены качеством результатов.

Но способность создавать собственную память — это не единственный прорыв. Важнее то, что память существует внутри компонуемой среды (Composable environment).

Замок из Lego

Для своей работы Claude Code использует терминал компьютера. Терминал построен на базе пятидесятилетней философии Unix, основанной на нескольких простых принципах:

• Каждая программа должна хорошо выполнять одну задачу;
• Результат работы одной программы должен становиться входными данными для другой;
• Программы должны работать с текстовыми потоками, потому что текст — универсальный интерфейс.

Unix устроен так, что вывод одной команды можно передавать другой, собирая сложные процессы из простых компонентов — как из деталей Lego, а не из одной цельной игрушки.

Claude Code наследует эту философию: он читает файлы, записывает файлы, вызывает другие инструменты и передает между ними текст. Он использует небольшие инструменты, объединяя их таким образом, чтобы получать возможности, которых нет ни у одного инструмента по отдельности.

Наблюдая за работой Claude Code, можно увидеть эту философию в действии. Среди вызываемых им инструментов — Read, Glob и Web Fetch. Каждый из них очень прост: прочитать файл, найти другой файл на компьютере (Glob) или загрузить веб-страницу.

Для языковой модели это небольшие и понятные действия.

Их сила заключается в том, что их можно комбинировать и связывать в цепочки. Claude использует инструменты Claude Code последовательно, чтобы получить сложный результат — например, написать статью.

Благодаря такому подходу всегда можно добавлять новые инструменты, и они сразу начинают работать вместе со всеми остальными.

Навыки могут вызывать другие навыки внутри себя. Если у вас есть брендбук, навык подготовки рассылки может в конце обращаться к нему для оформления и форматирования.

Инструменты также не ограничиваются локальными файлами. Любая программа, у которой есть API (а сегодня это практически все: Gmail, Google Calendar, Slack, CRM-системы и так далее), может быть подключена к этой системе.

Она может проверить календарь, получить последние письма, обновить таблицу или отметить задачу как выполненную в Asana. Каждое новое подключение начинает работать вместе со всеми остальными. Данные из одного инструмента можно передавать в другой или использовать для создания файлов.

Казалось бы, простая техническая возможность доступа к файловой системе и командной строке приводит к чему-то примечательному: появляется AI, который может читать файлы, записывать файлы, искать информацию по документам, связывать инструменты между собой и развивать собственные предыдущие разработки. У него есть память и возможность расширять свои возможности для любой задачи, которую можно описать текстом и выполнить на компьютере.

Циклы планирования

Я попросил Claude Code записывать краткое резюме работы в файл «рабочей среды» (workbench), связанный с конкретным проектом: что было сделано, какие решения приняты, какие вопросы остались открытыми. Я и раньше делал такие записи вручную, чтобы легко продолжить работу над проектом с того места, где остановился. Claude Code оказалось несложно поручить эту работу, используя историю нашего общения.

Через несколько дней я понял, что ежедневные записи по всем проектам можно сводить в единый дневной отчет. Тогда я попросил Claude в конце каждой сессии брать информацию из проектных workbench-файлов, суммировать сделанное и добавлять результат в ежедневный журнал (например, файл с названием в формате YYYY-MM-DD).

Когда я начал еженедельный обзор и планирование, у меня уже было семь ежедневных сводок. Я попросил Claude сравнить их с недельным планом: проверить, на чем я собирался сосредоточиться, чем занимался на самом деле, отметить расхождения и подготовить отчет.

С таким отчетом было легко увидеть, насколько мои действия соответствовали моим целям, не занимаясь утомительным сопоставлением информации вручную. А если я решаю изменить приоритеты, то могу сразу попросить Claude обновить квартальные цели. Поскольку у него есть доступ к таким инструментам, как Google Calendar, он может проверить, достаточно ли у меня времени для того, что я планирую.

Нетрудно представить, как подобный подход можно расширять дальше. Если вы каждую неделю отправляете команде отчет о работе, Claude может легко адаптировать вашу внутреннюю версию для коллег: например, с помощью специального навыка добавить контекст для людей, которые не погружены в ваши ежедневные задачи, и убрать личные планы на неделю.

Еженедельные отчеты можно анализировать раз в месяц или раз в квартал в рамках соответствующего цикла планирования. Если такие отчеты ведет вся команда, их можно объединять и отправлять клиенту сводку о том, что было сделано за неделю.

Создание чего-то нового на основе ваших собственных знаний

Замысел Буша заключался в создании инструмента для мышления: общего хранилища человеческих знаний, которое было бы более доступным, лучше связанным и удобным для навигации. В значительной степени именно этим и стали LLM. Они обучены на огромных объемах человеческих текстов — взаимодействуя с ними, мы перемещаемся по гигантской сети ассоциаций, охватывающей почти все, что человечество когда-либо записало.

Claude Code добавляет к этому еще два уровня.

• Первый — личный уровень. Поверх общественного мемекса возникает ваша собственная база знаний: проекты, предпочтения, история, индивидуальный стиль работы. Claude Code помогает создавать, организовывать и структурировать этот слой. Он может читать ваши неструктурированные голосовые заметки и раскладывать их по нужным местам. Он отслеживает, как вы редактируете его черновики, и обновляет собственные заметки на основе ваших правок.
  
• Второй уровень — возможность что-то создавать на основе этих знаний. Не просто извлекать информацию и связывать ее между собой, а производить новые формы работы со знаниями.

Freestyle

В книге Average Is Over Тайлер Коуэн (Tyler Cowen) предположил, что будущее работы будет напоминать freestyle-шахматы. В этом формате друг с другом соревнуются команды «человек + машина». Компьютер предлагает ходы, а человек решает, принять их, отклонить или рассмотреть альтернативы. Исторически лучшими командами в freestyle-шахматах оказывались не сильнейшие шахматисты и не самые мощные компьютеры, а лучшие комбинации того и другого.

В 2005 году команда ZackS выиграла крупный freestyle-турнир, обойдя соперников, среди которых был гроссмейстер Владимир Добров. Позже выяснилось, что ZackS — это двое молодых людей из Нью-Гэмпшира: Закари Стивен, администратор баз данных с образованием в области статистики, и Стивен Крэмтон, футбольный тренер и инструктор по сноуборду. Рейтинг Стивена в шахматах был 1381, рейтинг Крэмтона — 1685. Если бы Крэмтон играл против Доброва напрямую, гроссмейстер, вероятно, выиграл в 99% случаев.

Но с машинами в качестве партнеров любители оказались сильнее экспертов.

Навык управления машиной отличается от навыка игры в шахматы.

Любители лучше понимали, когда стоит довериться машине, когда ее игнорировать и какие процессы использовать. Успех в freestyle-шахматах зависит не только от знания шахмат (хотя это важно), но и от умения взаимодействовать с машиной.

Победители таких турниров могли принимать 95% предложений компьютера. Ключевой навык заключался в понимании тех 5%, когда нужно вмешаться самому — увидеть границы возможностей системы и дать собственному суждению взять верх.

AI невероятно хорош в отдельных аспектах писательской работы. Он великолепный помощник в исследованиях и редактор.

Он также полезен как партнер для мозгового штурма, когда автор застревает и ему нужно проговорить идею. Хотя иногда кажется, что он слишком узко смотрит на проблему.

При этом он плохо пишет. У меня нет ощущения, что он понимает текст так же, как понимаю его я, или понимает, чего этот текст пытается добиться. Какие бы инструкции я ни добавлял в файлы навыков, формулировки все равно кажутся мне AI-шной бессмыслицей.

Поэтому мой процесс выглядел примерно так:

1. Голосовой поток → очистка текста (50% AI / 50% человек)

Я начинаю с диктовки сырых мыслей. Бессвязные рассуждения, все что приходит в голову. Это моя часть работы. Затем AI приводит текст в читабельный вид, сохраняя мои формулировки. Без переписывания, без собственного голоса. Просто делает то, что я надиктовал, удобным для чтения.

2. Структурное редактирование (30% AI / 70% человек)

Это наиболее совместный этап. Задача здесь — выстроить аргументацию и повествование в правильном порядке: определить основную линию текста, разделы и их место.

AI помогает переставлять большие блоки, предлагает варианты структуры и помогает обсуждать идеи, когда я застреваю. Даже плохие предложения полезны: реагировать на что-то проще, чем смотреть на пустую страницу.

Если не спорить с ним, он склонен сводить все к слишком очевидным и узким формулировкам. Поэтому этот этап требует постоянного диалога. В основном я управляю процессом, а AI выполняет много технической работы по копированию и вставке текста, одновременно выступая в роли собеседника.

3. Удаление AI-стиля (100% AI / 0% человек)

По сути это фильтр для характерного AI-языка. Он убирает выражения вроде «углубиться в», «стоит отметить», «ландшафт», лишние оговорки, показной энтузиазм, пустые переходы и прочие подобные конструкции. Часть этого обычно появляется во время структурного редактирования.

4. Переписывание и исследование (20% AI / 80% человек)

Затем я заново переписываю весь текст своим голосом, раздел за разделом. AI помогает с исследованиями: ищет источники, уточняет цифры, заполняет фактические пробелы. Он также остается партнером для обсуждения идей, когда я застреваю на каком-то разделе.

Но сами формулировки и аргументация принадлежат мне и пока что требуют очень серьезной переработки того, что появляется после структурного редактирования.

Этот этап обычно включает минимум две-три итерации — на него уходит примерно 70–80% всего времени всей работы над текстом. Один и тот же раздел может пройти несколько циклов написания, исследования и переписывания. 

5. Финальная редактура (80% AI / 20% человек)

Наконец, я провожу интерактивную редактуру. AI поочередно указывает на проблемы — грамматика, согласованность, ясность формулировок, выбор слов — а я принимаю или отклоняю каждое предложение. Он хорошо замечает механические ошибки, которые легко пропустить после нескольких часов работы над одними и теми же абзацами. Но последнее слово всегда остается за мной, если вопрос касается стиля или манеры изложения.

Мне кажется, что уже в ближайшие год-два примерно так будет выглядеть значительная часть интеллектуальной работы: сотрудничество человека и AI, где каждый занимается тем, в чем у него есть сравнительное преимущество. Поэтому понимание того, где и как встроить AI в собственные рабочие процессы, должно стать одной из главных задач для любого специалиста умственного труда.

Как мы можем работать

Восемьдесят лет назад Вэнивар Буш посмотрел на технологии своего времени — миллионы электронных ламп, разбросанных по упаковкам, — и увидел очертания будущего. Он представил инструмент, который сможет хранить все знания человека и извлекать их через ассоциации, а не через алфавитные указатели. За десятилетия мы создали отдельные элементы его видения: гиперссылки, поисковые системы, цифровые заметки. Но ассоциативный поиск, который он описывал, кажется, по-настоящему воплотился в жизнь лишь с появлением больших языковых моделей.

CLI-инструменты вроде Claude Code выходят за рамки того, что представлял себе Буш: от инструментов для мышления к инструментам для работы. Именно это делает нынешнюю технологическую волну принципиально отличной от большинства предыдущих.

Мобильные приложения и социальные сети прежде всего были инструментами для потребления и распространения информации: вы листали ленту, делились контентом и реагировали на него. 

CLI-инструменты вроде Claude Code, напротив, ориентированы на создание. Вы руководите, оцениваете, структурируете, строите. Они больше напоминают мастерскую, чем рупор.

Большая часть разговоров об AI сосредоточена на том, как он ускоряет существующую работу и заменяет ее (что действительно происходит). Но гораздо более захватывающая другая возможность: появление новых способов создавать и действовать.