Перейти к основному содержимому

Системный промт

При фильтрации запросов при помощи Jay Guard чувствительные данные заменяются на плейсхолдеры. Например, вы отправили запрос Добавь почту agape@test.com в текст, к LLM это придет в таком виде Добавь почту [jg:email_1] в текст.

Мы разработали специальный промт, который помогает LLM правильно работать с плейсхолдерами. По умолчанию он включен для всех аккаунтов. Использование этого промта добавляет около 10 токенов к объему запроса.

Почему промт нужен​

Если просто отправлять языковой модели запросы с плейсхолдерами, то могут быть проблемы. Она может не понимать, что происходит замена, принимать за плейсхолдеры не те слова или придумывать несуществующие данные.

Наш системный промт решает эти проблемы. Он объясняет LLM:

  • Какие типы слов нужно считать плейсхолдерами.
  • Как именно устроено их именование.
  • Как их нужно обрабатывать.
  • Как к ним обращаться в ответе.

Как отключить промт​

Чтобы отключить использование системного промта, обратитесь в техническую поддержку: support@just-ai.com.