Отправка сообщений и стриминг

Наберите сообщение, отправьте его и смотрите, как появляется ответ. В этом руководстве описаны отправка, вложения, стриминг, остановка ответа, повтор и то, как понять ошибку.

Отправка сообщения

Перед началом: чату нужна модель. См. Подключение к провайдеру ИИ.

1. Наберите текст в строке ввода внизу чата.
2. Нажмите Send (отправить) или <kbd>Enter</kbd>, если для этого режима чата включен параметр Send on Enter (отправка по Enter).

Появится ваше сообщение, а затем начнет поступать ответ. В одном чате одновременно генерируется только один ответ. Пока идет стриминг ответа, Send превращается в кнопку остановки.

Если не получилось: когда для чата не задана модель, ответ сразу завершается ошибкой с сообщением, что подключение не настроено. Выберите модель в панели Chat Settings (настройки чата).

Параметр Send on Enter

Он находится в Settings → General → Input & Editing (настройки → общие → ввод и правка). Для каждого режима чата там свой переключатель.

Для Roleplay параметр по умолчанию выключен, потому что ролевые сообщения часто длинные и им нужны переносы строк. У Professor Mari свой переключатель – Enter sends to Professor Mari (Enter отправляет сообщение Professor Mari) – в Settings → General → Search and Professor Mari settings (настройки поиска и Professor Mari).

Вложение изображений и файлов

1. Нажмите на иконку скрепки в строке ввода.
2. Выберите файл. Он появится небольшой плашкой над полем ввода.
3. Отправьте сообщение как обычно.

Marinara принимает изображения, файлы PDF и простые текстовые файлы (.txt, .md, .markdown, .json, .jsonl, .csv, .log, .xml, .yaml, .yml). Каждый файл должен быть не больше 20 МБ. Файл крупнее или неподдерживаемого типа Marinara отклоняет с пояснением.

Модель видит изображение, только если она умеет работать с изображениями. Для модели, которая понимает только текст, включите Image captioning (описание изображений) в Chat Settings → Advanced Parameters (дополнительные параметры). По умолчанию он выключен. Тогда Marinara описывает каждое изображение текстом с помощью выбранной вами модели и отправляет это описание вместо изображения.

Картинка из галереи внутри сообщения

Вложения предназначены для модели. Ссылка на галерею показывает изображение вам, прямо в тексте сообщения. Сообщения поддерживают синтаксис изображений Markdown, а Marinara преобразует ссылки card:// в файлы галереи:

![a caption](card://characters/<character-id>/gallery/<filename>.png)

В Roleplay браузер ресурсов чата может вставить ссылку за вас. Ее также можно вставить вручную в сообщения, приветствия и примеры диалога.

Для собственной галереи персонажа используйте переносимую форму card://self/gallery/<filename>. Она продолжает работать после экспорта и импорта персонажа. Такую ссылку создает кнопка галереи Copy image reference (скопировать ссылку на изображение). См. Галереи персонажей.

Стриминг ответа

При стриминге ответ появляется слово за словом, а не целиком. Эти настройки находятся в Settings → General → Responses (ответы).

Индикаторы набора и прогресса

Пока не пришло первое слово, вы видите имя персонажа и три анимированные точки. В групповом чате показываются имена всех отвечающих персонажей. Пока сервер готовит промпт, строка прогресса перебирает такие подписи. Часть шагов выполняется, только если чат использует соответствующую функцию, поэтому увидеть все подписи получится не всегда.

• Preparing context...
• Building prompt...
• Scanning lorebooks...
• Recalling memories...
• Running agents...
• Retrieving knowledge...
• Generating...

Если у персонажа статус "занят" или "отошел", вместо точек появляется индикатор ожидания. Ответ начнется, когда персонаж освободится.

Просмотр размышлений модели

Некоторые модели возвращают скрытую цепочку рассуждений, которую называют "размышлениями". Если она есть у ответа, на сообщении появляется кнопка View model thoughts (посмотреть размышления модели) с иконкой мозга. Нажмите ее, чтобы прочитать рассуждения.

Для этого модель должна возвращать свои рассуждения. Некоторые модели оборачивают их в обычные текстовые теги. Для таких моделей задайте Thinking Tags (теги размышлений) в настройках генерации, чтобы Marinara могла отделить рассуждения от ответа. См. Параметры генерации.

Остановка ответа

Нажмите кнопку остановки – это кнопка Send, пока идет стриминг ответа. Текст, который уже успел прийти, обычно сохраняется. Намеренная остановка никогда не показывается как ошибка.

Повтор без повторного набора

Если последнее сообщение ваше, а ИИ так и не ответил, оставьте поле ввода пустым и нажмите Send (или <kbd>Enter</kbd>). Marinara начнет новый ответ и не добавит повторное сообщение. В Conversation кнопка в этом состоянии показывает круговую стрелку. Если в поле есть черновик, Send отправит его.

В Roleplay нажатие Send с пустым полем также начинает совершенно новый ответ, даже если ИИ уже ответил. К предыдущему ответу оно ничего не добавляет. Чтобы продолжить предыдущий ответ, используйте /continue. См. Действия с сообщением.

Если появилась ошибка генерации

Когда ответ не удался, внизу экрана примерно на 15 секунд появляется всплывающее уведомление (короткое сообщение поверх интерфейса). Его текст можно скопировать. Некоторые ошибки Marinara переписывает в указание, что делать дальше:

Если ошибка повторяется, см. Устранение неполадок.

Медленное соединение и вкладки на телефоне

Длинный ответ может готовиться долго. Остановить его можно в любой момент. На телефоне браузер может приостановить вкладку с чатом, когда вы переключаетесь на другую. Если в этот момент шел стриминг ответа, Marinara показывает Finishing in background..., а затем проверяет, закончился ли ответ на сервере. Если ответ так и не появился, обновите чат чуть позже.