Вопросы на собеседовании: LLM-инженер

LLM последовательно предсказывает распределение вероятностей следующего токена по токенам, уже находящимся в контексте.

• Правило декодирования выбирает один токен из распределения и добавляет его к последовательности.
• Расширенная последовательность снова подаётся модели до stop condition или лимита вывода.
• Модель создаёт статистически вероятное продолжение, а не извлекает ответ из встроенной базы фактов.

Transformer представляет собой архитектуру нейросети, которая обрабатывает представления токенов через attention и feed-forward layers.

• Attention позволяет каждому токену объединять информацию из релевантных токенов доступной последовательности.
• Feed-forward blocks преобразуют представление каждого токена после смешивания контекста механизмом attention.
• Residual connections и normalization помогают множеству слоёв обучаться и надёжно передавать информацию.

Токенизация преобразует текст в числовые ID токенов из фиксированного словаря модели.

• Токен может представлять целое слово, часть слова, пунктуацию, пробел или последовательность байтов.
• Модель принимает ID и сопоставляет им обученные векторные представления до обработки transformer layers.
• Разные семейства моделей могут по-разному токенизировать один текст, поэтому число токенов зависит от tokenizer.

Количество токенов определяет доступный объём ввода, оставшийся объём вывода и часто стоимость запроса к API.

• Prompt, история диалога, retrieved context и сгенерированный ответ разделяют общий context budget модели.
• Длинный ввод увеличивает вычисления и может размыть полезные evidence, даже если технически помещается.
• Подсчёт нужно выполнять tokenizer выбранной модели, а не оценивать по числу слов.

Context window является максимальной последовательностью токенов, которую модель может учитывать в одном запросе генерации.

• В неё входят instructions, examples, user input, retrieved documents, tool results, history и обычно сгенерированное продолжение.
• Содержимое за пределами переданного окна не запоминается моделью автоматически.
• Большее окно увеличивает вместимость, но не гарантирует точное использование каждой детали.

Attention вычисляет, насколько сильно представление одного токена должно использовать информацию из других представлений токенов последовательности.

• Queries сравниваются с keys для получения weights, которые объединяют соответствующие values.
• Разные attention heads могут изучать разные отношения, например синтаксис, ссылки и локальные шаблоны.
• Attention weights являются промежуточными вычислениями и не дают полного объяснения рассуждений модели.

Causal self-attention позволяет каждой позиции учитывать только себя и предыдущие позиции, но не будущие токены.

• Causal mask обеспечивает поток информации слева направо во время обучения и генерации.
• Модель может параллельно обучаться на множестве целей следующего токена, хотя inference выдаёт токены последовательно.
• Модели вроде Llama и Qwen используют decoder-only transformer design для autoregressive generation.

Attention сам по себе не кодирует порядок токенов, поэтому модели нужна positional information для различения последовательностей с разным порядком.

• Position embeddings или rotary position encodings добавляют сигналы порядка в представления токенов.
• Это позволяет модели различать смысл одинаковых токенов в разной последовательности.
• Метод позиционного кодирования также влияет на поведение модели около и за пределами длины обученного контекста.

Pretraining обучает модель широким языковым шаблонам через оптимизацию предсказания следующего токена на большом корпусе текстов.

• Модель изменяет параметры, чтобы уменьшить prediction loss на множестве примеров.
• Pretraining даёт широкие возможности, но сам по себе не учит надёжно следовать инструкциям пользователя.
• Качество, состав и масштаб данных вместе с training objective формируют итоговую base model.

Параметр является обученным числовым весом, участвующим в преобразованиях нейросети.

• Обучение обновляет параметры для уменьшения objective на training examples.
• Число параметров отражает часть capacity и compute cost модели, но не является прямой мерой качества ответов.
• Факты распределены по множеству весов, а не хранятся как читаемые записи с точными ссылками на источники.

Base model предсказывает продолжение текста, instruct model настраивается на выполнение задач, а chat model адаптируется к структурированным ролям диалога.

• Base models часто требуют completion-style prompting и могут продолжить prompt вместо ответа.
• Instruct models изучают шаблоны ответов по примерам instruction и answer.
• Chat models ожидают model-specific template для сообщений system, user и assistant.

Instruction tuning дообучает pretrained model на примерах, связывающих задачи или диалоги с желаемыми ответами.

• Он учит модель интерпретировать запросы и выдавать более полезные форматы, чем сырое продолжение.
• Примеры могут включать ответы на вопросы, summarization, extraction, dialogue и refusal behavior.
• Instruction tuning улучшает поведение, но не гарантирует фактическую точность и безопасность каждого prompt.

Preference alignment обучает модель предпочитать ответы, оценённые как лучшие по human или synthetic preference data.

• Методы могут обучать reward или preference signal и оптимизировать модель в сторону предпочтительных outputs.
• Alignment способен улучшить helpfulness, style и safety после supervised instruction tuning.
• Он также наследует biases оценщиков и objectives, поэтому предпочтительное поведение не равно объективной истине.

Галлюцинация представляет собой правдоподобный ответ с выдуманными, неподтверждёнными или противоречащими источникам утверждениями.

• Обучение следующему токену поощряет вероятное продолжение, но не гарантирует fact-check каждого утверждения.
• Галлюцинации затрагивают факты, citations, вычисления, tool results и утверждения о переданном context.
• Grounding, retrieval, tools, constraints и evaluation снижают риск, но не устраняют его полностью.

Текстовый embedding является плотным числовым вектором для представления полезных семантических свойств текста.

• Embedding model преобразует query, предложение или документ в вектор фиксированной длины.
• Тексты с близким смыслом часто дают близкие векторы согласно training objective модели.
• Вектор полезен для retrieval, clustering, classification и deduplication, но не является читаемым текстом.

Семантическое сходство оценивается сравнением embedding vectors через метрику вроде cosine similarity или dot product.

• Query и candidate text кодируются в ожидаемом формате совместимой embedding model.
• Более высокий score обычно означает близкое представление в этой модели, но не гарантирует релевантность каждой бизнес-задаче.
• Thresholds и ranking следует оценивать на domain examples, а не брать как универсальные константы.

Документы и queries должны быть представлены в одном совместимом vector space, чтобы similarity scores имели смысл.

• Смена embedding model обычно требует пересчёта embeddings всего индексированного корпуса.
• Некоторые модели используют разные query и passage prefixes или encoders, но создают намеренно общее пространство.
• Одинаковая dimension не доказывает совместимость, поскольку две модели могут иметь равную длину и несвязанную geometry.

Embedding dimension является числом компонентов вектора и влияет на storage, index memory и объём вычислений.

• Большая dimension может представить больше признаков, но не гарантирует лучший retrieval.
• Размерность фиксируется выбранной embedding model и должна совпадать со схемой vector index.
• Качество модели сравнивается через retrieval evaluation, а не выбирается только по dimension.

Vector database хранит embeddings и эффективно ищет близкие векторы, обычно вместе с исходным текстом и metadata.

• Approximate nearest-neighbor indexes обменивают небольшую часть recall на быстрый поиск в масштабе.
• Metadata filters ограничивают candidates по tenant, language, date и document type.
• База находит похожие записи, но сама не генерирует ответ и не гарантирует релевантность.

Metadata filters применяют известные ограничения до или во время similarity search, исключая семантически близкие, но недопустимые записи.

• Типичные filters включают access scope, tenant, locale, product, time range и publication status.
• Фильтрация улучшает релевантность и предотвращает cross-tenant или unauthorized retrieval.
• Metadata требует единообразной индексации и governance, поскольку пропущенные или неверные поля незаметно удаляют или раскрывают candidates.