AlumniAI
Платформа для изучения ИИ

Машинное обучение от первой задачи до олимпиад и статей

Курсы по направлениям, тренажёр на Python с автопроверкой прямо в браузере и разборы оригинальных статей. Для школьников и студентов.

Эмблема AlumniAI

Направления

Каталог растёт — новые направления появляются здесь
5 курсов · 94 урока

Основы машинного обучения

Классическое MLНачинающийБесплатно6 модулей · 33 урока

С чего начинается любая задача ML. Карта задач машинного обучения, типы данных и подготовка признаков, линейные модели от линейной регрессии до SVM, деревья решений и ансамбли: случайный лес, бустинг, стекинг, метрики качества и честная валидация, кластеризация и понижение размерности, нейронные сети. Везде математика и примеры на scikit-learn. Курс растёт — новые статьи появляются здесь по мере готовности.

Задачи тренажёра

Все задачи
01
Среднее арифметическое
Основылёгкая
Решить
02
Нормализация массива
NumPyлёгкая
Решить
03
Линейная регрессия вручную
MLсредняя
Решить
04
Gradient Descent
MLсредняя
Решить

Как выглядит урок

Открыть урок целиком
Позиционное кодирование · Урок 8 из 15

RoPE — вращательное позиционное кодирование

Идея. Не прибавлять позицию к вектору, а повернуть вектор на угол, пропорциональный позиции. Тогда оценка внимания зависит только от расстояния:

⟨R(mθ) q, R(nθ) k⟩ = q⊤ R((n − m)θ) k

Где прижилось: GPT-J, PaLM, LLaMA, Mistral, Qwen, DeepSeek.

Читать урокSu и др., 2021 · код на PyTorch · интерактивный график
R(mθ)·qDEEP LEARNINGПозиционноекодирование15 уроков · по статьям

Тарифы

Подписка открывает курсы с отметкой «По подписке»