Вопросы на собеседовании: Инженер генеративного ИИ

Я бы оставил единый policy и job contract, но выделил каждой модальности отдельный класс исполнения.

• Gateway определяет tenant, modality, model manifest, safety policy, deadline и cost ceiling до отправки в очереди image, video, audio или text.
• Интерактивные text, image previews и audio получают admission по deadline, а video идёт в durable async jobs с progress events и идемпотентной публикацией результата.
• Capability registry явно задаёт resolution, duration, conditioning, streaming, hardware и artifact compatibility модели, не обещая ложную переносимость.
• Load tests на 39 000 запросов в минуту проверяют headroom 30%, p99 каждой модальности, quality gates и корректный отказ при насыщении GPU pool.

Я бы считал capacity по измеренным GPU-seconds на принятый asset и разделил очереди preview и final render.

• 2 млн в день это в среднем 23,1 asset в секунду; при пике 5x и headroom 25% нужна ёмкость примерно 145 принятых assets в секунду.
• Если оптимизированный eight-step pipeline даёт 2,4 изображения на GPU-second, пик требует около 61 GPU до запаса на redundancy, safety retries и обслуживание.
• Continuous dynamic batching объединяет совместимые model, resolution, scheduler, adapter и conditioning requests, а deadline 4 секунды ограничивает queue wait.
• Safety rejections и client cancellations не входят в success, а SLO 99,9% считает только admitted jobs, которые обязаны опубликовать ровно один immutable asset.

SLO выполним только с workers на двух GPU, запускаемых через gang scheduling, и почти без queue delay.

• Два GPU при efficiency 80% дают wall time 18 / 1,6 = 11,25 минуты, оставляя лишь 45 секунд на queueing, safety, muxing и publication.
• Из-за потерь масштабирования job занимает 22,5 allocated GPU-minutes; 20 000 jobs требуют 7 500 allocated GPU-hours в день, в среднем 312,5 GPU.
• При effective utilization 70% и reserve 20% я бы заложил около 268 slots по два GPU, то есть 536 GPU, а затем проверил arrival distribution вместо опоры на daily average.
• Admission атомарно резервирует оба GPU, считает stranded single GPUs как fragmentation и отклоняет либо упрощает job, если slot не стартует внутри 45-секундного бюджета вне generation.

Я бы считал capacity по измеренному числу batched streams, а не переводил real-time factor напрямую в физические GPU.

• Inference требует 200 / 8 = 25 L40S; headroom 30% округляет число до 33, а сохранение его после отказа host с четырьмя GPU требует 40 deployed GPU, то есть десять полных hosts.
• Измеренные 175 мс и buffer 60 мс занимают 235 мс из бюджета 300 мс, оставляя 65 мс на network и gateway delay; buffer остаётся ниже цели jitter 80 мс.
• Session-affine workers связывают tenant, model, speaker embedding, consent, locale и codec, а batch slots и caches используют тот же isolation key.
• Test на 260 streams с отключением host проверяет first-audio p99, underruns, streams per GPU, cancellation и failover вместо предположения о линейном scaling.

Я бы сделал канонический пакет продукта неизменяемым контуром управления, а генерировал только сцену, освещение, движение камеры и текст вокруг него.

• Реестр SKU версионирует утверждённые mesh, размеры, UV, PBR-карты, декали и маски логотипа, калиброванные цвета и допустимые ракурсы под одним digest; каждый job фиксирует этот digest, а генерация не может изменять поверхности продукта.
• Geometry-conditioned pipeline рендерит из mesh проходы depth, normals, segmentation, shadow и product beauty, генерирует фон и движение по этим условиям, затем композитит или повторно рендерит заблокированный продуктовый слой для каждого изображения или кадра видео.
• Автоматические gates сравнивают силуэты и landmarks на восьми ракурсах при IoU не ниже 0,995, требуют similarity логотипа не ниже 0,98 и Delta E 2000 калиброванного albedo не выше 2, а также проверяют digests PBR и эталонные блики; ошибки поступают человеку, который не может изменить пакет SKU.
• Capacity test на трёхкратном часовом пике должен поддерживать 10 000 принятых креативов в день при p95 изображения ниже 12 секунд, p95 видео ниже 120 секунд, стоимости принятого изображения не выше $0,15, видео не выше $1,20, first-pass acceptance не ниже 98% и отсутствии нарушений SKU в release-аудите на 5 000 ассетов.

Я бы сделал legality данных, token throughput и recoverability частью одного immutable training manifest.

• Pilot измеряет examples per GPU-second на целевом resolution; полный run должен обрабатывать минимум 386 examples в секунду, чтобы увидеть 1 млрд pairs за 30 дней до учёта evaluation и downtime.
• Versioned shards хранят license grant, source, checksum, caption transform, dedup cluster, opt-out status и hash preprocessing code, а невалидные records удаляются до sampling.
• FSDP или ZeRO sharding optimizer state, mixed precision и activation checkpointing помогают разместить модель, а topology-aware data loading загружает все 512 GPU.
• Checkpoints каждые 20 минут ограничивают lost work, а fixed prompts, distribution metrics уровня FID, human preference, safety и memorization probes разрешают продолжение.

Я бы определял recovery по возрасту и восстанавливаемости последнего successful checkpoint, а не по таймеру checkpoint.

• Capacity моделируется в encoded frames с учётом duration и resolution; 27,6 clips в секунду служат лишь sanity check, поскольку стоимость clips различается.
• Checkpoint запускается каждые 10 минут, имеет p99 write budget три минуты и становится видимым только после checksums, проверки shards и atomic commit manifest.
• Manifest сохраняет model, optimizer, scheduler, loss scaler, position dataloader и sampler, ordered shard cursor и все RNG states для точной sequence.
• Failure drills завершают workers и coordinator, восстанавливают run на новых nodes, сравнивают следующие batches и losses и поднимают alert при age последнего successful checkpoint около 15 минут.

Я бы разделил данные по rights holder и artist до feature extraction, а training запускал из versioned rights-aware sample manifest.

• Каждый segment хранит grants на recording и composition, territory, expiry, artist, ISRC-подобный identifier, checksum и разрешённую training purpose; истёкшие grants прекращают будущий sampling.
• Loudness normalization, resampling, source separation, codec tokens и text conditioning фиксируются как pinned transforms, а artist и track groups не пересекаются с validation.
• Throughput считается в audio-hours per GPU-hour, а не в tracks, а duration buckets не позволяют десятиминутным песням определять step time.
• Release gates объединяют listener preference, intelligibility, musical structure, safety и nearest-neighbor memorization tests по licensed catalog.

Я бы разделил adapter training, compatibility validation, registry publication и serving admission под единым tenant-scoped manifest.

• Training queues взвешиваются по plan и GPU-seconds, quotas не дают одному tenant занять все 50 slots, а predicted cost проверяется до admission.
• Default LoRA recipe перебирает только rank 16 и 32 на held-out identity and style set; early stopping завершает runs, которые не обгонят base внутри ceiling $12.
• Каждый adapter хранит base hash, VAE, text encoder, target modules, rank, precision, dataset consent, recipe и eval result до atomic publication.
• Для SLO 95% за два часа capacity tests включают 65 concurrent jobs, failed nodes, retries и artifact upload, а не только training loop.

Я бы авторизовал и загружал adapters через tenant-scoped broker, затем атомарно публиковал их в bounded caches каждой replica.

• Cache key включает tenant, adapter version, base hash, tokenizer, VAE и precision; digest mismatch или чужой tenant приводит к hard rejection.
• Requests batch между adapters только при корректной изоляции weights движком, а KV, latent, CUDA graph и output caches используют тот же isolation key.
• Concurrent misses объединяются в один verified download, hot adapters закрепляются по measured demand, а cold-load остаётся виден внутри p99 5 секунд.
• Cross-tenant fuzz tests, memory-scrub tests, signed artifact checks и audit logs доказывают controls, не обещая магическую конфиденциальность GPU memory.

Я бы сделал release manifest, который связывает model artifact со всеми evaluations, dependencies, policies и product approvals для запуска.

• Registry хранит immutable hashes для weights, architecture, tokenizer или codec, VAE, preprocessing, adapters, runtime image, prompts, safety policy и license status.
• Evaluation records ссылаются на точные dataset, rubric, judge, human panel, seeds, hardware и per-slice results, а не на один pass badge.
• Compatibility graph задаёт допустимые surfaces и runtimes для каждого artifact, а promotion использует signed stage transitions вместо mutable labels.
• Rollback активирует предыдущий полный manifest и routing weights; ежеквартальные drills доказывают восстановление всех 18 surfaces за 10 минут.

Я бы рассматривал каждую evaluation как content-addressed experiment без drift в prompt, conditioning, generation и scoring inputs.

• Manifest фиксирует prompt text, negative prompt, seeds, aspect ratio, duration, input assets, masks, scheduler, guidance, steps, model graph и runtime container.
• Scheduler стратифицирует 4 000 prompts по safety, typography, anatomy, composition, motion, language и product use, затем даёт кандидатам одинаковые paired seeds.
• Cached generations переиспользуются только при точном manifest hash; metric code и embedding models становятся versioned outputs, а не скрытыми dependencies.
• Six-hour gate показывает paired deltas и confidence intervals по slices и падает на incomplete cells вместо сравнения разных prompt subsets.

Я бы заранее зарегистрировал prompt pair как independent unit и рассчитал power primary forced-choice estimand до открытия panel.

• Normal approximation требует около 6 600 независимых pairs для power 90% при эффекте два пункта; pilot оценивает clustering по reviewers и prompts, после чего n умножается на design effect.
• Три blinded judgments на пару по 45 секунд используют около 248 часов до поправки, оставляя из 600 часов запас на quality checks и oversampling slices.
• Reviewer assignment пересекает models и prompt strata, gold items выявляют невнимательность, а mixed model не считает repeated reviewers независимыми.
• Primary test использует alpha 0,05; четыре critical slices получают Holm correction и pilot-powered sample sizes, а aggregate win не перекрывает underpowered или failing slice.

Я бы сделал delta severe flicker в clips 8-12 секунд primary paired endpoint, отдельным от frame aesthetics.

• При one-sided alpha 0,05, discordance 4% и margin один пункт около 3 500 pairs дают power 90%; я бы выделил 4 000 clips этой duration и 6 000 остальным.
• Motion, cuts, faces, text и occlusion задаются заранее; 1 000 подходящих pairs на critical sub-slice дают MDE примерно два пункта, что указывается честно.
• Deterministic decode выравнивает timestamps, а optical flow, tracking survival и embedding drift диагностируют failures, которым blinded reviewers назначают severity.
• One-sided paired bound должен остаться внутри одного пункта, critical slices с Holm adjustment обязаны пройти, а gain 6% не компенсирует temporal failure.

Я бы перевёл time budget в judgments, а затем по pilot paired scores определил, какие claims по языкам можно доказать.

• При одной минуте на judgment 1 200 часов дают 72 000 judgments; три listeners на pair позволяют оценить максимум 24 000 pairs, или 600 на язык поровну.
• Pilot оценивает variance paired scores и correlation listeners; n равно ((z alpha плюс z power) умножить на paired SD и разделить на один пункт) в квадрате с поправкой на repeated listeners.
• Если 600 pairs не поддерживают bound после Holm correction, я бы сузил preregistered critical-language set или увеличил review budget, а не объявил все 40 non-inferior.
• Hidden references и degraded anchors квалифицируют listeners, а отдельные naturalness, intelligibility, prosody, artifact и speaker-fidelity endpoints показывают codec damage.

Я бы построил modality-specific cascades, но promotion зависел бы от exact-binomial bounds по независимо выбранным positive и negative banks.

• При design recall 99,9% против floor 99,5% normal calculation требует около 1 550 severe positives на critical slice; exact simulation задаёт итоговый n и допустимые misses.
• При design false-positive rate 0,7% против ceiling 1% около 8 200 benign negatives на slice дают power 90% с итоговым exact one-sided upper bound.
• Image, video, transcript, acoustic и text detectors поступают в calibrated combiner, а uncertain high-impact cases эскалируются, не исчезая в majority vote.
• Holm correction покрывает critical slices, а adversarial, multilingual, compressed и transformed sets остаются отдельными, чтобы daily volume не подменял power.

Я бы отдельно рассчитал weighted modality work и очередь reviewers.

• Suite содержит 638 000 GPU-seconds, или 177,2 GPU-hours; за восемь часов нужны 22,2 busy GPU, около 34 при utilization 80% и reserve 20%.
• Dedicated pools не дают 450 000 GPU-seconds video work блокировать text и image, а critical path показывает queued GPU-seconds вместо tests per second.
• Две тысячи escalations требуют 100 reviewer-hours, поэтому нужны минимум 13 concurrent reviewers и запас на disagreement и перерывы.
• Versioned scenarios сохраняют seed, mutation, manifest, detector output, artifact hash и oracle decision; severe slice или поздний human backlog блокирует release.

Я бы подписывал на trusted export boundary и описывал C2PA statements как claims, а не permissions или доказательство выполнения edit.

• Manifest связывает output, parent ingredient, model и workflow identifiers и claimed actions editor; verification проверяет signature chain, trust list, hard или soft binding и ingredient relationship.
• Signers с HSM используют rotation и revocation, а append-only log событий сертификатов является внутренним control, не возможностью C2PA.
• Embedded manifests идут с поддерживаемыми images; sidecars для video или audio используют signed package index и discovery URL, связанный с asset, а отсутствие означает unknown, не fake.
• Средние 23 signatures в секунду тестируются на peak 10x и signer failover с сохранением 99,99% attachment и limit p95 80 мс.

Я бы внедрил watermarking как один probabilistic signal рядом с C2PA provenance и никогда не обещал его неуничтожимость.

• Perceptual watermark вставляется до final encoding, payload использует error correction, а keys разделяются по product и epoch для ограничения последствий компрометации.
• Evaluation покрывает JPEG, resize, crop, blur, color edits, screenshots, regeneration и adversarial removal с recall и false-positive confidence bounds по каждому transform.
• Target recall 95% относится только к объявленному transform suite и quality range; вне них verifier возвращает unknown, а не authentic или fake.
• C2PA даёт signed positive provenance при сохранении, а watermark detection помогает investigation и abuse response, не становясь единственным enforcement evidence.

Consent становится revocable authorization, связанным с verified speaker, а statistical gate использует только consent-negative attempts.

• Enrollment сочетает account verification, liveness со случайной phrase, declared uses, expiry и revocation; synthesis требует capability по tenant, speaker, model и purpose.
• Samples и embeddings шифруются, изолируются по tenant, имеют retention limit и исключаются из general training, а high-risk policy может блокировать matched voice.
• Проверка 0,2% против ceiling 0,5% требует около 3 400 независимых negative attempts на critical slice по approximation; exact binomial simulation задаёт n и допустимые approvals.
• Clusters speakers и attack families покрывают spoof, replay, synthetic, multilingual и accessibility slices с Holm-adjusted upper bounds; uncertainty возвращает review, не approval.