AlumniAIКурсы по направлениям, тренажёр на Python с автопроверкой прямо в браузере и разборы оригинальных статей. Для школьников и студентов.
С чего начинается любая задача ML. Карта задач машинного обучения, типы данных и подготовка признаков, линейные модели от линейной регрессии до SVM, деревья решений и ансамбли: случайный лес, бустинг, стекинг, метрики качества и честная валидация, кластеризация и понижение размерности, нейронные сети. Везде математика и примеры на scikit-learn. Курс растёт — новые статьи появляются здесь по мере готовности.
Как трансформер понимает порядок слов. 15 разборов по оригинальным статьям: от синусоид и RoPE до растяжения контекста и Фурье-признаков. Формулы, код на PyTorch и интерактивные графики.
Как нейросеть понимает, что ошиблась. 14 разборов по оригинальным статьям: от MSE и кросс-энтропии до диффузии и DPO. Формулы, код на PyTorch и интерактивные графики.
Как собрать решение за 10–12 минут на одной GPU из разрешённых моделей. Формат и среда тура, домашний раунд IOAI 2026, разборы задач 2024–2026 и задачи национальных отборов — NEOAI, польской, венгерской олимпиад и других. На основе материалов IOAI (CC BY 4.0).
Валидация, метрика и стратегия — на задачах тура 2025–2026. Как устроены этапы и почему валидация — главный навык. Три задачи с разборами: классификация космических объектов, прогноз оценки книги, ранжирование кандидатов. Призёрство даёт 100 баллов ЕГЭ или БВИ.
Идея. Не прибавлять позицию к вектору, а повернуть вектор на угол, пропорциональный позиции. Тогда оценка внимания зависит только от расстояния:
Где прижилось: GPT-J, PaLM, LLaMA, Mistral, Qwen, DeepSeek.