Нейросети для писателя -- Введение

Цель: настроить ИИ-инструмент не для генерации текста, а для выполнения вспомогательных задач — организации материала, планирования, сбора информации. Максимум генерации, который тут предполагается — планирование сцен, подбор материала и фрагментов под них; конечный текст всё равно пишет человек.

Пример задачи, которую решает такая среда:

Пишу цикл рассказов, в папке лежит план цикла и два готовых текста, собираю черновик третьего.
я: клод, предложи варианты плана финальной сцены (дальше идет описание сцены)
клод: вижу в плане, что финальная локация этого рассказа совпадает со стартовой предыдущего, вот какие детали описания были уже упомянуты, держите их под рукой, когда пишете.

Или: пока писала черновик главы, набрела на несколько интересных фактов лора, которые надо бы держать в голове, но есть подозрение, что к тому моменту, когда они понадобятся, я о них забуду. «Клод собери факты из этого обсуждения и из файла главы в дробные вики-записи для раздела "Лор". Сначала предложи список записей, после утверждения создай черновые файлы; если есть неоднозначности, спрашивай, а не предполагай».

Еще хорошо справляется с заменами и правками, которые слишком нечеткие, чтобы их решала простая команда "Поиск". Например, я какое-то время не могла определиться, как пишется имя персонажа, использовала несколько вариантов вразнобой, в итоге остановилась на вовсе другом. Обычным поиском легко пропустить какое-то, нейросеть может пройтись по тексту и заменить. (Для контроля стоит просить дать в конце список сделанных правок)

Рабочее пространство состоит из нескольких компонентов. Я дам общий обзор, а потом опишу подробнее один из вариантов, который можно соорудить себе бесплатно или с минимальными затратами. Конечно, можно просто использовать модель по выбору в веб-интерфейсе (привычный чат с ChatGPT и прочим зоопарком), но в какой-то момент, особенно когда проект становится крупным, надоедает бегать с файлами туда-сюда. Еще в последнее время появились сервисы для писателей, предлагающие примерно тот функционал, который я собираюсь описать, в браузерном сервисе по подписке, но моего оптимизма не хватает на то, чтобы хранить материал по масштабному проекту на каком-либо сайте, который неизвестно еще как долго просуществует.

Таким образом, чтобы построить работу с нейросетями за пределами браузерных чатов, нужно определить следующие компоненты:

1. Как мы храним материал. Это может быть папка с файлами, папка с папками с файлами, Google Docs… То, как это у меня устроено сейчас, определили следующие параметры:

   • Лучше хранить файлы локально (хочется, чтобы хотя бы часть работы можно было выполнять при отключениях интернета).
   • Я не люблю писать в Word что бы то ни было, кроме работы (слишком много отвлекающих факторов).
   • И еще меньше я люблю писать что бы то ни было в браузерных редакторах. Отсюда выбор: Obsidian с его широкими возможностями сортировки и организации файлов, плагинами и тем фактом, что файлы без проблем открываются сторонними программами. И нейросетям читать и создавать Markdown-файлы тоже оптимально.

2. Через какую оболочку мы работаем с этим материалом.

   1. Это может быть инструмент от одного из крупных поставщиков нейросетей (Claude Code, Codex — для этого нужна платная подписка)
   2. или бесплатная оболочка, к которой можно подключить через API^[1] любые модели, как платные, так и бесплатные. (Например, VS Code). Отмечу, что, хотя эти штуки предназначены, в первую очередь, для программистов, и пишущего человека могут на первый взгляд отпугнуть, с текстом они справляются ничуть не менее успешно.

3. Где мы берем сами модели, если нет платной подписки на один из крупных сервисов.

   • Можно использовать OpenRouter — сервис, на котором предоставляется доступ к моделям по API, есть бесплатные варианты. На практике: бесплатные доступны нестабильно, может понадобиться сделать несколько запросов, чтобы пробиться. Можно использовать опцию, которая перенаправляет на ближайшую доступную бесплатную модель, но тогда качество получается нестабильным^[2]. Чтобы получать практически приемлемый результат, лучше дробить задачу на мелкие. (Например, из примера выше, "предложи список вики-записей на основе текста" будет отдельной задачей, затем "собери факты, которые нужно указать в каждой записи" и дальше проверяете).
   • Относительно доступный промежуточный вариант — заплатить за OpenRouter как минимум один раз. Во-первых, если положить 10 долларов на счет, увеличиваются лимиты бесплатного использования. Во-вторых, это не подписка, а оплата за потраченные токены. Ту тысячу рублей, которую я положила на него в мае, я не потратила до конца до сих пор, хотя экспериментировала довольно много. Для задач обработки и редактирования текста вполне хватает моделей, которые дешевле фронтир-уровня. Например, полный проход по главе (замена имени персонажа, правка орфографии и ошибок распознавания, обработка комментариев) обходится с некоторыми примерно в 4 цента. (Из России завести аккаунт и пополнять счет OpenRouter, кажется, проще, чем Claude или ChatGPT).
   • Еще неплохой бесплатный вариант -- GoogleAI Studio. Там тоже можно получить API-ключ для использования в сторонних оболочках (именно так я его сейчас использую в плагине распознавания рукописного текста). Ограничено количество бесплатных обращений в день. Особенность для пользователей из России: не всякий раз GoogleAI Studio откроется (иногда всё равно срабатывают региональные ограничения). Вариант с птичкой проверен — работает.
   • Еще есть вариант запустить локальную модель, но для этого нужны хорошая видеокарта и долготерпение. То, что я могу запустить у себя, годится разве что как запасной вариант.

И да, с английским языком всё это будет работать в среднем лучше, чем с русским. Если сложно, попробуйте просить модель использовать простой английский (Basic English, Simple English). В целом, на русском тоже будет неплохо получаться, просто лично у меня русский язык моделей вызывает некоторый эффект зловещей долины. (Имею в виду английский язык для переписки с ними; обработка русского текста у меня нареканий не вызывала. Генерация — упаси боже, а обработка уже готового — нормально).

В общем, давно не видела такой четкой иллюстрации к "быстро, качественно, бесплатно — выберите любые два".

Из этой картины складывается впечатление, что, если не брать платные варианты, ближайший по доступности — это VS Code + OpenRouter. О нем и расскажу в следующий раз.