Нейросеть для создания игр управляет героем RPG: бесплатный Gemini упёрся в лимит вне тарифа

Раньше автор относился к этой идее скептически. Когда он рассказывал о своей ролевой игре, в комментариях советовали подключить большую языковую модель (LLM, движок, на котором работают чат-боты вроде Gemini) для генерации квестов. Теперь доступ к таким моделям бесплатный, и он переделал свой старый текстовый клиент на Python под генерацию промптов (текстовых заданий для нейросети).

Сам автор называет результат наивной реализацией. Игра присылает данные, программа на лету собирает из них задание и схему ответа, отправляет всё в Gemini, разбирает ответ и шлёт команду на сервер.

Почему нейросети доверили поступки, а не разговоры?

Большинство похожих проектов используют языковую модель только для общения с неигровыми персонажами. Так устроен, например, мод Herika для Skyrim (любительское дополнение, известное как Skyrim GPT). Здесь модель прежде всего действует, а диалог идёт бонусом.

Разница кажется мелкой: какая разница, спросить нейросеть «что бы ты сказал?» или «что бы ты сделал?». Автор считает эту разницу принципиальной.

Сказать можно всё что угодно, а вот сделать нет. : Автор проекта, разработчик сетевой ролевой игры

Игра сетевая и асинхронная: сервер не ждёт команды. Пока персонаж стоит, мимо пробегают другие игроки или гоблины, а от гоблинов можно и получить. Поэтому программу разбили на три потока (параллельные задачи внутри одной программы):

• основной получает данные с сервера и разбирает их;
• второй отправляет запрос в Gemini и ждёт ответа;
• третий передаёт картинку в браузер, чтобы происходящее было видно глазами, а не полотнами текста.

Аргументы за: бесплатный доступ и строгий формат ответа

Первый довод: попробовать можно без вложений. Хватает бесплатного API (программного интерфейса, через который программа обращается к нейросети напрямую, без окна чата) и старого кода.

Второй довод: ответ можно загнать в жёсткую форму. В Gemini для этого есть параметр response_format. Он требует вернуть JSON (строго размеченные данные, похожие на анкету с полями), часть полей помечается обязательными, для каждого задаётся тип. Это упрощает разбор ответа и избавляет от простыней лишнего текста.

Автор сравнил два способа получить действие:

• для каждого действия числовое поле от 0 до 1, куда модель ставит вероятность выбора, а программа берёт максимум;
• одно текстовое поле action со списком допустимых вариантов, из которых модель выбирает один.

Особой разницы в результате он не заметил и оставил второй вариант: его проще разбирать, и токенов (кусочков слов, в которых нейросеть считает текст), вероятно, уходит меньше. Кроме действия, модель возвращает цель, планы, мысли и реплику. Реплика необязательна, так что персонаж может и промолчать.

На старте модель получает статичное задание MASTER-PROMPT: законы мира, предметы, допустимые действия, формат ответа. Часть его написана вручную, часть подставляет крафтовая система игры: предметы, рецепты, здания. Идентификатор каждого ответа передаётся в следующий запрос, и получается непрерывный диалог.

Аргументы против: модель не успевает за игрой

Ответ от нейросети приходит дольше, чем длится игровой шаг, поэтому часть событий модель пропускает. Автор отправляет ей ситуацию уже после выполненного действия, иначе модель не увидит последствий своих решений.

Дальше начинаются лимиты: запросы в минуту (RPM), запросы в день (RPD) и токены в минуту (TPM). Считаются они скользящим окном, то есть по последним 60 секундам или 24 часам, а не обнуляются по часам. На бесплатном тарифе облегчённые модели принимают один запрос раз в 4 секунды. Шаг сервера автор выставил в 0,45 секунды, поэтому модель в лучшем случае успевает за каждым десятым шагом.

Как автор с этим справляется:

• минутный лимит: делит 60 на допустимое число запросов и, если ответ пришёл раньше, выдерживает паузу на разницу;
• дневной лимит: после 500 запросов переключается на другую модель;
• токены: расход у него скромный, до потолка далеко.

Четвёртый лимит в тарифе не указан. Цепочка связанных ответов имеет предельную длину, и после примерно 100 шагов, по ощущениям автора, приходит ошибка Conversation ancestor chain exceeds maximum validation depth («цепочка диалога превысила допустимую глубину»). Он предполагает, что предел зависит от заполнения контекстного окна (объёма текста, который модель держит в памяти за раз).

Показательная деталь: завести несколько аккаунтов посоветовала сама Gemini. Автор отказался, отметив, что с одного адреса такое быстро вычисляют.

Что делать с этим прямо сейчас, по ролям

Автору Дзена. Возьмите приём со строгим форматом ответа: просите нейросеть выдавать заголовок, тезисы и вывод отдельными полями. Править такой результат проще, чем сплошной текст.

Маркетологу. Бесплатный тариф годится для прототипа, но 500 запросов в день и пауза в 4 секунды не выдержат реальную нагрузку. Закладывайте платный доступ в смету заранее.

Предпринимателю РФ и СНГ. Доступность Gemini API из России автор не обсуждает. Из доступных в РФ аналогов есть YandexGPT и GigaChat; до старта проверьте, поддерживает ли выбранный сервис строгий формат ответа.

Дальше главным станет вопрос скорости и памяти, а не качества реплик. Пока ответ идёт дольше игрового шага, а цепочка диалога обрывается примерно на сотом ходе, нейросеть для создания игр будет управлять медленными мирами, пошаговыми или с редкими решениями. Тот, кто первым научится сжимать историю персонажа без потери смысла, получит героя, который помнит больше сотни своих поступков.