- Агент
- Система, которая сама выбирает следующий шаг и выполняет действия в других системах, а не просто выдаёт текст, с которым дальше работает человек.
- Векторная база
- Хранилище, приспособленное быстро искать по embeddings. В нём лежат проиндексированные фрагменты ваших документов.
- Инференс
- Запуск обученной модели ради получения ответа. Это регулярная статья расходов, в отличие от разовой стоимости разработки.
- Контекстное окно
- Сколько текста модель способна удерживать одновременно, в токенах. Всё, что не поместилось, приходится отбирать, сжимать или отбрасывать.
- Системный промпт
- Постоянная инструкция, которую приложение подставляет модели перед разговором: кто она, что ей можно и в каком тоне отвечать. Влияет на ответ сильно, но не является запретом — модель читает её тем же текстом, что и всё остальное.
- Токен
- Единица, которой модель читает и пишет, примерно кусок слова. Вендоры берут плату за токены, поэтому счёт приходит именно в них.
- A2A
- Agent2Agent — протокол, позволяющий агентам разных команд находить друг друга и передавать работу. Решает другой уровень задачи, чем MCP, и не конкурирует с ним.
- Discovery
- Разговоры до предложения, на которых выясняют задачу, процесс, доступные данные и ограничения заказчика. Пока идёт discovery, ни схема, ни сроки, ни цена ещё не обещаны.
- Embeddings
- Числовое представление текста, в котором близкие по смыслу фрагменты оказываются рядом. Именно это позволяет искать по смыслу, а не по совпадению слов.
- Guardrails
- Проверки вокруг модели — на входе, на выходе и на разрешённые действия, — которые не дают работающему демо превратиться в инцидент на проде.
- LLM
- Большая языковая модель — система, обученная продолжать текст. Она работает с той информацией, которую ей дали, и не знает знаний вашей компании, пока их не передали.
- MCP
- Model Context Protocol — общий способ отдавать модели инструменты и данные, чтобы одна написанная интеграция работала с любым совместимым клиентом.
- Prompt injection
- Текст, который модель прочитала как данные, а выполнила как инструкцию. Приходит либо репликой в чат, либо изнутри документа, письма или страницы, которые модель попросили прочитать.
- RAG
- Сначала находим подходящие фрагменты, потом даём модели ответить на их основе. RAG передаёт контекст, а не обучает модель.
- Text2SQL
- Превращение вопроса на человеческом языке в запрос к базе данных. Отвечает на вопросы про цифры в базе, тогда как RAG отвечает на вопросы про текст в документах.
- Tool calling
- Возможность модели вызвать заданную функцию — найти товар, создать заявку — вместо того чтобы только описать словами, что следовало бы сделать.
- Workflow
- Процесс с заранее заданными шагами. Когда шаги не меняются, workflow дешевле и предсказуемее агента.