Продвинутый модуль после агентной практики: как устроены и учатся LLM, почему данные — основная работа, когда дообучать, а когда хватит промпта и контекста, — и своё дообучение малой модели на бесплатном GPU
Длительность: 42 мин
Цели модуля
- Объяснить, как из токенов, эмбеддингов, attention и претрейна на предсказании следующего токена получается LLM — и почему то же устройство даёт уверенные ошибки
- Разложить свою задачу по циклу машинного обучения и выбрать класс алгоритма по тому, что нужно получить, — включая вывод «LLM здесь не нужна»
- Решить, нужно ли дообучение или задачу закрывают промпт, контекст/RAG и агенты; выбрать между полным дообучением и LoRA и подобрать малую модель
- Спланировать честную оценку: отложить holdout до обучения, распознать переобучение и забывание, отличить бенчмарк от проверки на своей задаче
- Провести дообучение малой модели на бесплатном GPU или своём железе и зафиксировать сравнение «до / после / промпт без дообучения» по заранее заданным критериям
Юниты
Что внутри модели
Данные — основная работа
Дообучение: когда и как
Оценка: помогло ли
Практика: дообучить малую модель
Курс бесплатный — начать на сайте →
Написать автору: Telegram · LinkedIn
сверено с курсом: 2026-11-02 · 664b147