Вопросы на собеседовании: AI-инженер

Эти термины обозначают связанные категории с разным охватом.

• Искусственный интеллект является широкой областью создания систем, которые выполняют задачи, связанные с человеческим интеллектом.
• Машинное обучение является частью ИИ, в которой модели находят закономерности в данных, а не полагаются только на явно заданные правила.
• Глубокое обучение является частью машинного обучения и использует нейронные сети со множеством слоев.
• Генеративный ИИ создает контент, например текст, изображения или аудио, и часто использует модели глубокого обучения.

Языковая модель назначает вероятности последовательностям языковых единиц.

• В зависимости от модели такими единицами могут быть слова, символы или токены, например части слов.
• Модель изучает статистические закономерности в текстах, включая то, какие единицы обычно встречаются в заданном контексте.
• Она может использовать изученные вероятности, чтобы оценивать вероятные продолжения, генерировать текст или сравнивать последовательности.
• Большая языковая модель является языковой моделью со множеством обучаемых параметров, которую обучают на большом объеме данных.

Авторегрессионная LLM генерирует текст по одному токену с учетом предыдущих токенов.

• Токенизатор преобразует промпт в идентификаторы токенов, которые образуют начальную последовательность.
• Модель вычисляет распределение вероятностей возможных токенов для следующей позиции.
• Метод декодирования выбирает токен из этого распределения и добавляет его к последовательности.
• Модель повторяет эти шаги, пока не создаст токен остановки или не выполнит другое условие завершения.

Токен является единицей текста, а токенизация преобразует текст в последовательность идентификаторов токенов, которую может обработать модель.

• Токен может соответствовать целому слову, части слова, знаку препинания, пробелу или другому фрагменту текста.
• Токенизатор применяет свой словарь и правила разбиения, чтобы разбить или закодировать входной текст.
• Он сопоставляет каждому полученному токену целое число, которое называют идентификатором токена.
• Границы токенов не всегда совпадают с границами слов, поэтому одно слово может превратиться в несколько токенов.

Словарь модели является фиксированным набором токенов, которые распознает ее токенизатор, причем каждому токену назначен числовой идентификатор.

• Словарь может включать слова, части слов, символы, знаки препинания и специальные токены.
• Идентификатор токена является целочисленным индексом, по которому модель получает обученное векторное представление токена.
• Число, назначенное идентификатору, не выражает смысл или важность токена.
• Разные токенизаторы могут использовать разные словари, поэтому один и тот же текст может давать разные токены и идентификаторы.

Контекстное окно LLM является максимальным числом токенов, которые модель может одновременно использовать при предсказании следующего токена.

• Во время генерации окно содержит входные токены и сгенерированные токены, которые все еще входят в последовательность.
• Ограничение измеряется в токенах, а не в словах или символах.
• Содержимое за пределами окна не может напрямую влиять на текущее предсказание модели.
• Более широкое окно делает доступным больше содержимого, но не гарантирует, что модель правильно использует каждую деталь.

Параметры модели представляют собой числовые значения, которые настраиваются во время обучения нейросетевой языковой модели.

• Обучение изменяет эти значения, чтобы уменьшить ошибки в предсказаниях модели на обучающих примерах.
• Значения эмбеддингов и веса в слоях внимания и полносвязных слоях являются примерами параметров.
• Число параметров часто используют для описания размера модели, но само по себе оно не измеряет качество модели.
• Параметры отличаются от гиперпараметров, например скорости обучения или числа слоев, которые выбирают, а не изучают из данных.

Трансформер является архитектурой нейронной сети, которая обрабатывает представления токенов с помощью внимания и полносвязных слоев.

• Информация о токенах и их позициях объединяется в начальные векторные представления.
• Самовнимание позволяет представлению каждого токена использовать информацию из других значимых позиций последовательности.
• Полносвязный слой дополнительно преобразует каждую позицию, а эти компоненты объединяются в повторяющиеся блоки.
• В LLM только с декодером итоговые представления преобразуются в оценки возможных следующих токенов.

Самовнимание обновляет представление каждого токена, объединяя информацию из доступных позиций той же последовательности.

• Модель создает векторы запроса, ключа и значения из представления каждого токена.
• Она сравнивает запрос токена с ключами в разрешенных позициях и преобразует полученные оценки в нормированные веса внимания.
• Взвешенная комбинация соответствующих векторов значений формирует контекстное представление этого токена.
• Несколько голов внимания могут учиться выделять разные связи между токенами.

Трансформеру нужна информация о позициях, потому что по одному содержимому токена самовнимание не определяет его место в последовательности.

• Информация о позиции помогает модели различать последовательности, которые содержат одинаковые токены в разном порядке.
• Она также позволяет модели изучать связи, зависящие от порядка токенов и расстояния между ними.
• Один из методов добавляет обучаемый или фиксированный вектор позиции к представлению каждого токена.
• Методы относительного позиционирования вместо этого представляют расстояние и направление между позициями токенов при вычислении внимания.

Предобучение представляет собой начальный этап, на котором модель усваивает общие закономерности из большого набора данных до возможной адаптации под конкретную задачу.

• Данные для предобучения обычно охватывают больше примеров и тем, чем набор данных для одной конкретной задачи.
• Обучающий сигнал часто получают из самих данных, например предлагая модели предсказать скрытый или следующий токен.
• Во время обучения параметры модели обновляются так, чтобы её предсказания лучше соответствовали закономерностям в данных.
• Полученную предобученную модель можно использовать с промптами или адаптировать её параметры с помощью дообучения.

Цель обучения определяет, чему должна научиться модель, а функция потерь численно измеряет отклонение её предсказаний от ожидаемых ответов.

• Цель языковой модели может состоять в предсказании скрытого токена или следующего токена в последовательности.
• Функция потерь сравнивает предсказания модели с правильными ответами в обучающих примерах.
• Оптимизатор использует значение функции потерь и её градиенты, чтобы обновлять параметры модели в направлении, которое обычно уменьшает потери.
• Низкие потери только на обучающих данных не гарантируют точных результатов на незнакомых данных.

Инференс представляет собой использование обученной модели для получения предсказания или сгенерированного результата без обновления её параметров.

• Модель применяет закономерности, представленные значениями параметров, которые были получены во время обучения.
• В задаче классификации один прямой проход может выдать оценки или вероятности доступных классов.
• При авторегрессионной генерации модель многократно предсказывает следующий токен с учётом токенов, уже находящихся в контексте.
• Метод декодирования превращает предсказанные вероятности токенов в выбранные токены и итоговую последовательность.

Температура управляет тем, насколько сосредоточено распределение вероятностей следующего токена при случайном выборе токенов во время генерации.

• Низкая температура усиливает преимущество токенов с высокой вероятностью, поэтому результат обычно становится предсказуемее.
• Высокая температура даёт больше шансов токенам с низкой вероятностью, поэтому результат обычно становится разнообразнее.
• При очень низкой температуре выбор приближается к выбору самого вероятного токена, а жадное декодирование выбирает такой токен напрямую без сэмплирования.
• Температура меняет вероятности выбора токенов, но не параметры модели и не сохранённые в ней знания.

Top-k и top-p представляют собой методы сэмплирования, которые ограничивают набор возможных следующих токенов.

• Top-k сохраняет фиксированное число k токенов с самыми высокими вероятностями.
• Top-p сохраняет минимальный набор наиболее вероятных токенов, чья суммарная вероятность достигает как минимум порога p.
• Размер набора top-p меняется в зависимости от того, насколько сосредоточено текущее распределение вероятностей.
• После применения любого из фильтров оставшиеся вероятности нормализуются, и из них случайно выбирается один токен.

Один и тот же промпт может давать разные результаты, потому что при генерации токены часто случайно выбираются из распределений вероятностей, а не определяются однозначно.

• На каждом шаге несколько токенов могут иметь ненулевую вероятность и оставаться возможными вариантами.
• Другой токен, выбранный в начале генерации, меняет контекст для всех последующих предсказаний.
• Температура, top-k и top-p влияют на то, насколько сильно сэмплирование может разнообразить результат.
• Жадное декодирование устраняет эту случайность, выбирая самый вероятный токен на каждом шаге.

Галлюцинация представляет собой результат, в котором модель выдаёт ложную или неподтверждённую информацию за достоверную.

• Она может проявляться как выдуманные факты, цитаты, ссылки на источники, события или шаги рассуждения.
• Связная и уверенная формулировка не доказывает правильность содержания.
• Генеративные модели предсказывают вероятные продолжения и не проверяют автоматически каждое утверждение по надёжным данным.
• Чтобы определить обоснованность результата, его утверждения нужно сопоставить с надёжными источниками или предоставленными исходными материалами.

Базовую модель получают в результате общего предобучения, а модель для следования инструкциям дополнительно обучают выполнять инструкции и давать подходящие ответы.

• Базовая языковая модель прежде всего предсказывает правдоподобное продолжение текста и может не воспринимать запрос как инструкцию для выполнения.
• Для обучения следованию инструкциям обычно используют примеры, в которых инструкции сопоставлены с желаемыми ответами.
• Такое дополнительное обучение меняет наиболее вероятные ответы модели, но не гарантирует их правильность.
• Модель для следования инструкциям может исходно иметь ту же архитектуру и те же предобученные параметры, что и соответствующая базовая модель.

Эти семейства моделей отличаются тем, как они обрабатывают входную последовательность и создают результат.

• Модели только с энкодером могут учитывать контекст с обеих сторон каждого входного токена для построения представлений, что подходит, например, для классификации и извлечения информации.
• Модели только с декодером используют предыдущие токены как причинный контекст и обычно генерируют текст по одному токену.
• Модели с архитектурой энкодер-декодер сначала кодируют вход, а затем создают отдельный результат с учётом закодированного входа и ранее сгенерированных токенов.
• Эти архитектуры обычно связывают с разными задачами, но название семейства не ограничивает модель только приведёнными примерами.

Мультимодальная модель искусственного интеллекта может обрабатывать или создавать данные более чем одной модальности, например текст, изображения, аудио или видео.

• Данные каждой поддерживаемой модальности преобразуются в числовые представления, которые модель может обрабатывать.
• Модель может объединять информацию из разных модальностей, например связывать слова с областями изображения.
• Это позволяет отвечать на вопросы по изображению, описывать видео или расшифровывать речь.
• Поддерживаемые входные и выходные модальности зависят от модели, поэтому мультимодальность не означает поддержку любого формата данных.