Параметры генерации

Параметры генерации – это настройки, которые управляют тем, как модель пишет каждый ответ, например Temperature (температура) и Max Output Tokens (максимум выходных токенов). Пресеты и аккаунты задают значения по умолчанию, а раздел Advanced Parameters (дополнительные параметры) в Chat Settings (настройки чата) переопределяет их для одного чата. Значения по умолчанию хорошо работают и для обычного чата, и для ролевой игры, поэтому меняйте их, только чтобы устранить конкретную проблему.

Где их найти

Пресеты не задают лимиты токенов контекста или вывода. Окно контекста задается в Connections, а лимиты вывода – в Connections или Advanced Parameters. Старые файлы пресетов по-прежнему загружаются, но сохраненные в них лимиты токенов игнорируются. Встроенный Marinara's Universal Preset (универсальный пресет Marinara) не задает никаких параметров генерации.

Чтобы переопределить параметры для одного чата:

1. Откройте чат.
2. Откройте Chat Settings.
3. Найдите Advanced Parameters и нажмите на него, чтобы развернуть.
4. Найдите параметр, например Temperature, и впишите новое значение.
5. Проверьте небольшой переключатель рядом с его названием. Если он выключен, включите его. Параметр с выключенным переключателем не отправляется, поэтому ваше изменение ничего не дает. У Temperature переключатель изначально выключен (см. Переключатель Send).

Вы увидите примечание: "Change generation settings for this chat only. Leave these alone unless you know what they do." Раздел Advanced Parameters доступен в чатах Conversation, Roleplay и Game.

Каждый параметр простыми словами

У каждого числового параметра есть поле ввода и переключатель Send (см. ниже).

Frequency и Presence – это штрафы за повторы.

Reasoning Effort (глубина рассуждений) говорит модели с поддержкой рассуждений, то есть модели, которая сначала разбирает задачу в скрытых шагах, насколько подробно думать перед ответом. Варианты: Off, Low, Medium, High, Extra high и Maximum. Если модель не поддерживает выбранный уровень, Marinara понижает его до самого высокого из доступных этой модели. Когда вы выбрали модель, кнопки называются по уровню, который получает эта модель, поэтому Maximum может отображаться как Max, Extra high или High.

• Когда переключатель Send включен, Off просит сервис отключить рассуждения, если известно, что модель это поддерживает. Некоторые модели не могут отключить рассуждения и все равно могут их вернуть. Если рассуждений не должно быть совсем, выберите модель без рассуждений.
• Когда переключатель Send выключен, никакие пожелания о рассуждениях не отправляются, и сервис использует собственное значение по умолчанию.

Verbosity (подробность) задает, насколько длинными и детальными должны быть ответы: None, Low, Medium или High. Эту настройку используют только некоторые модели.

Советы по настройке

Меняйте по одной настройке за раз, чтобы понять, что именно помогло. Это ориентиры, и модели ведут себя по-разному.

Чтобы увидеть, какие параметры ушли вместе с сообщением, воспользуйтесь Peek Prompt. Он показывает собранный промпт, а также модель, температуру, максимум токенов, глубину рассуждений и многое другое.

Переключатель Send

У каждого числового параметра, а также у Reasoning Effort и Verbosity, рядом с названием есть небольшой переключатель. Подписи у него нет. Наведите на него курсор, чтобы увидеть "This parameter is sent to the model" или "This parameter is not sent to the model."

• Включен: Marinara добавляет параметр в запрос.
• Выключен: Marinara его опускает, и сервис использует собственное значение по умолчанию. Это не то же самое, что значение вроде 0 или 1, которое все равно сообщает сервису, что использовать.

Он пригодится, когда сервис сообщает, что две настройки нельзя использовать вместе (выключите одну), или когда в ошибке говорится, что параметр не принимается (выключите его) или обязателен (включите его).

В разделе Advanced Parameters чата по умолчанию отправляются только Max Output Tokens и Reasoning Effort.

Значения по умолчанию

Это значения, которые показывает редактор, и они не всегда совпадают с тем, что отправляется. Без пресета генерация начинается с 4096 выходных токенов, после чего применяются переопределения аккаунта и чата. Активная сцена может использовать 8192. Строка Effective (действующее значение) показывает итоговое значение.

Значение остается видно в поле, даже когда его переключатель Send выключен. Оно не отправляется, пока вы не включите переключатель.

Начало ответа и теги рассуждений

Assistant Prefill (начало ответа) – это необязательный текст, который добавляется в начало ответа ИИ. Оставьте его пустым, если модель его не поддерживает.

• Он отправляется последним, после вашего сообщения и всех следующих за ним инструкций.
• Если чат заканчивается ответом ИИ, а для Post-Processing Messages (постобработка сообщений) выбрано Apply (применить), начало ответа добавляется в конец этого ответа.
• Некоторые модели отклоняют промпт, который заканчивается словами самого ИИ, включая Claude (Subscription) с любой моделью. Для них Marinara добавляет начало ответа в начало последнего ответа ИИ, поэтому новый ответ с него не начинается.
• В чате, где ответа ИИ еще нет, начало ответа отправляется в конце как ваше сообщение.

Assistant Reasoning Prefill (начало рассуждений) – это необязательный скрытый текст, который добавляется в начало рассуждений ИИ, до видимого ответа. Используйте его только с моделями, которые поддерживают отдельное начало рассуждений, например Kimi K3. Его можно использовать вместе с Assistant Prefill.

Thinking Tags (теги рассуждений) сообщают Marinara, как модель помечает скрытые рассуждения в обычном тексте, чтобы их можно было спрятать под View model thoughts (посмотреть размышления модели). Пишите по одной обертке в строке, с местом посередине для скрытого текста. Частые обертки – think, thinking, thought, вертикальная черта, channel и парные скобки – уже распознаются. Это нужно только для необычной обертки.

Custom Parameters

Custom Parameters (свои параметры) позволяет добавить напрямую настройки, для которых в Marinara нет поля. Впишите объект JSON, и Marinara подмешает его в запрос.

• Значения, сохраненные как настройки аккаунта по умолчанию, отправляются при каждой генерации текста через этот аккаунт: в Conversation, Roleplay, Game, Noodle, при создании сводок, в работе агентов и установленных пакетов агентов. Это касается и своих эндпоинтов на вашей машине.
• Custom Parameters на уровне чата добавляются к этому чату и перекрывают одноименные ключи аккаунта.
• Неверный ключ может привести к тому, что сервис отклонит запрос. Используйте строчные true, false и null. Оставьте поле пустым, если руководство сервиса прямо не просит добавить ключ.

Service Tier

Service Tier (уровень обслуживания) появляется, только когда аккаунт чата работает через OpenRouter или NanoGPT. Он выбирает, как сервис направляет ваш запрос. Default не отправляет уровень. Flex может быть дешевле и медленнее. Priority может быть быстрее и дороже.

Лимит сообщений в контексте

Limit Context Messages (ограничить сообщения контекста; также называется Context message limit) отправляет только последние N сообщений вместо всего чата. По умолчанию выключено. При включении счетчик начинается с 50, и можно задать от 1 до 9999. Меньшее число снижает стоимость и ускоряет ответы, а ИИ помнит меньше.

В чате Roleplay с включенным Advanced Memory Recall (расширенная память чата) этот лимит не используется. Advanced Memory Recall задает, сколько истории отправлять, настройкой Maximum allowed context before compression (tokens) (максимальный контекст до сжатия, в токенах). Чтобы отправлять меньше, уменьшите эту настройку в Chat Settings → Memory Recall. См. Advanced Memory Recall.

Exclude Past Reasoning

Exclude Past Reasoning (исключить прошлые рассуждения) включен по умолчанию. Он не пускает в новые промпты сохраненные рассуждения из прежних ходов. Оставьте его включенным, если нет явной причины подавать модели старые рассуждения снова.

После выключения появляется Past reasoning blocks (блоки прошлых рассуждений). По умолчанию 1: сохраняется самый новый доступный блок рассуждений. Значение 0 включает все доступные блоки. Сохраненные мысли при этом не удаляются, а повторно отправить можно только рассуждения, которые поддерживает текущий аккаунт.

Описание изображений

Image captioning (описание изображений) заставляет Marinara описывать каждое приложенное изображение словами с помощью другой модели, вместо того чтобы отправлять само изображение. Используйте это для моделей, которые не видят изображений. По умолчанию выключено.

1. В Advanced Parameters включите Image captioning.
2. Выберите модель в раскрывающемся списке Captioning model (модель для описания).
3. По желанию отредактируйте Captioning Prompt (промпт для описания изображений) – инструкции, которые отправляются вместе с каждым изображением. Кнопка сброса или очистка поля возвращает значение по умолчанию. Промпт сохраняется только для этого чата, и Save as Connection Default его не копирует.

Если не получилось: когда описание не удается, потому что аккаунт для описаний сломан, удален или ничего не вернул, ответ прерывается с ошибкой Image captioning failed. Отправлять вместо этого само изображение Marinara не станет. Исправьте или замените модель для описаний либо выключите Image captioning.

Save as Connection Default

Внизу раздела Advanced Parameters кнопка Save as Connection Default (сохранить как значения подключения по умолчанию) записывает текущие значения в аккаунт. После этого новые чаты с этим аккаунтом начинают с них. Кнопка появляется только для сохраненного обычного аккаунта. Для случайного набора подключений и для встроенной модели она скрыта.

Reset to Defaults (сбросить к значениям по умолчанию) отменяет все изменения в этом чате и возвращает его к унаследованным настройкам. Унаследованные переключатели Send следуют выбранному аккаунту. Переключатель Send, который вы изменили сами, остается переопределением этого чата, пока вы его не сбросите.

Как значения по умолчанию накладываются и переопределяются

Marinara определяет каждый параметр по этому списку. Более поздние пункты переопределяют более ранние.

1. Раздел Parameters пресета или встроенные значения по умолчанию, если пресет не используется. Вывод начинается с 4096 токенов, потому что пресеты не могут задавать лимиты вывода. В Roleplay пресет, назначенный в аккаунте, имеет приоритет над пресетом, выбранным в чате.
2. Chat defaults аккаунта.
3. Advanced Parameters этого чата.
4. Правила режима. Активный чат сцены задает вывод 8192, рассуждения Maximum и подробность High. Game использует сохраненные параметры аккаунта и чата, не навязывая настройки выборки, рассуждения или минимальный размер вывода.
5. Лимиты вывода. Game применяет известный лимит вывода модели, а Max output tokens override (переопределение максимума выходных токенов) аккаунта ограничивает запросы во всех режимах. Доступный контекст может дополнительно уменьшить лимит.

Строка Effective рядом с параметром показывает значение, которое побеждает, и слой, из которого оно пришло, например Effective: 16384 · this chat или Effective: 4096 · output token cap, когда действует лимит аккаунта. Выключенный переключатель Send показывается как not sent. Сервисы по-прежнему могут требовать параметры или изменять неподдерживаемые значения. Custom Parameters и подгонка под контекст могут изменить итоговый запрос. Сброс параметров чата убирает только переопределение этого чата (пункт 3). Тогда значение берется из Chat defaults аккаунта, если они заданы, а иначе из пресета. Правила режима и лимиты вывода (пункты 4 и 5) после этого по-прежнему действуют.

Параметры для агентов

Вызовы агентов используют Chat defaults, сохраненные в аккаунте, через который они работают: собственном аккаунте агента или аккаунте чата, если своего у агента нет. Переключатели Send и лимиты модели действуют так же, как для ответа в чате. Пресеты и Advanced Parameters чата не меняют вызовы агентов, кроме правила температуры ниже.

• Отправляются агентам: Temperature, Top P, Top K, Frequency, Presence, Reasoning Effort, Verbosity, Service Tier, Custom Parameters, собственные заголовки и дополнительные параметры, которые вы добавляете в Settings (настройки), затем Advanced (дополнительно), затем Parameters (например, Top A или seed). Параметр с выключенным переключателем Send не отправляется.
• Не отправляются агентам: Max Output Tokens, стоп-последовательности, начала ответа, Thinking Tags и другие настройки формата промпта. Каждый агент сохраняет собственное значение Max Output Tokens.
• Temperature: агент использует температуру аккаунта или 0.7, если она не сохранена. Beholder всегда использует 0, а составитель промптов Illustrator – собственное значение. Во время ответа в чате агенты на аккаунте чата берут температуру и переключатели Send, определенные для чата. Повторные попытки используют сохраненные значения аккаунта.
• Reasoning Effort: выбранный уровень или Off (выключено) действует на всех агентов этого аккаунта, чьи модели его принимают. Use custom defaults for this model (использовать свои значения по умолчанию для этой модели) задает начальный Reasoning Effort Maximum для большинства аккаунтов (Default для Codex), поэтому агенты думают на самом высоком уровне, что медленнее и дороже. Выберите уровень ниже или выключите его переключатель Send, чтобы агенты думали меньше. Если уровень не сохранен, агенты, которые отвечают в JSON, просят отключить рассуждения, а остальные агенты оставляют поведение модели по умолчанию.
• Место для рассуждений: когда в аккаунте сохранен Reasoning Effort, Marinara добавляет место для рассуждений сверх Max Output Tokens агента, в пределах лимита вывода аккаунта, лимита модели и свободного контекста. Свой эндпоинт получает это место, даже когда не отправляет уровень.

Установленные пакеты агентов следуют тем же значениям аккаунта. Значение, которое аккаунт сохраняет и отправляет, заменяет запрошенное пакетом, а все незаданное сохраняет собственную настройку пакета. Если в аккаунте выключены Reasoning Effort или Max Output Tokens, они не отправляются, даже если пакет их запрашивает. У Temperature и Verbosity переключатели изначально выключены, поэтому сохраняется собственное значение пакета.

Некоторые модели игнорируют часть параметров

Не каждая модель принимает каждый параметр. Если Marinara знает, что модель отвергает настройку, эта настройка не попадает в запрос. Элемент управления по-прежнему виден, но его изменение ничего не дает. Так часто ведут себя модели с рассуждениями: они отказываются от настроек выборки вроде температуры. С моделью с автоматической маршрутизацией, где отвечать каждый раз может другая модель, параметры могут работать по-разному от хода к ходу. Выберите одну конкретную модель, чтобы поведение было стабильным.

Смежные руководства

• Редактор пресетов и управление промптами
• Peek Prompt: посмотреть, что получила модель ИИ
• Подключение к провайдеру ИИ