EssayAI
Блог
Блог

машинное обучение

Статьи EssayAI по теме «машинное обучение»: разборы, методы и примеры.

Алгоритм ID3: как построить дерево решений

Алгоритм ID3: как построить дерево решений

Алгоритм ID3 строит дерево решений по информационному выигрышу. Разбираем энтропию, выбор признака, пример расчёта, условия остановки и ограничения метода.

8 ноября 20268 минут
Алгоритм k-means: кластеризация по шагам

Алгоритм k-means: кластеризация по шагам

Алгоритм k-means простыми словами: как точки попадают в кластеры, как пересчитываются центроиды и сумма квадратов, как выбрать число групп и подготовить признаки.

8 ноября 20268 минут
Дивергенция Кульбака-Лейблера: смысл и расчёт

Дивергенция Кульбака-Лейблера: смысл и расчёт

Дивергенция Кульбака-Лейблера простыми словами: формула и пример расчёта для двух исходов, асимметрия, нулевые вероятности и связь с энтропией и обучением моделей.

8 ноября 20268 минут
Метрика precision recall: точность и полнота

Метрика precision recall: точность и полнота

Метрики precision и recall показывают качество положительных ответов классификатора. Разбираем формулы, выбор порога, PR-кривую и влияние редкого класса на примерах.

8 ноября 20268 минут
Регуляризация Elastic Net: формула и пример расчёта

Регуляризация Elastic Net: формула и пример расчёта

Регуляризация Elastic Net объединяет L1 и L2: разберём формулу, расчёт коэффициентов, настройку параметров, масштабирование данных и работу с коррелирующими признаками.

8 ноября 20268 минут
ROC-кривая и AUC: построение и смысл метрики

ROC-кривая и AUC: построение и смысл метрики

Как построить ROC-кривую по оценкам классификатора, вычислить AUC методом трапеций, выбрать порог и понять ограничения метрики на несбалансированных данных.

8 ноября 20268 минут
Классификация снимков: этапы, методы и оценка

Классификация снимков: этапы, методы и оценка

Как работает классификация снимков: выбор классов, подготовка данных, обучение модели и оценка ошибок. Учебный пример для проверки качества классификатора.

7 ноября 20268 минут
Алгоритм AdaBoost: как слабые классификаторы дают сильный

Алгоритм AdaBoost: как слабые классификаторы дают сильный

Алгоритм AdaBoost простыми словами: адаптивный бустинг, перевзвешивание объектов, формула веса классификатора, итоговый ансамбль и разбор шага на примере с формулами.

20 июня 20267 минут
Алгоритм CatBoost: бустинг с обработкой категорий

Алгоритм CatBoost: бустинг с обработкой категорий

Алгоритм CatBoost простыми словами: упорядоченный бустинг против сдвига прогноза, кодирование категориальных признаков через ordered target statistics, симметричные деревья и разбор типовых задач.

20 июня 20268 минут
Алгоритм LightGBM: быстрый градиентный бустинг

Алгоритм LightGBM: быстрый градиентный бустинг

Алгоритм LightGBM простыми словами: рост дерева по листьям против роста по уровням, гистограммы признаков, GOSS и EFB, настройка num_leaves и learning rate, борьба с переобучением и разбор задач.

20 июня 20268 минут
Алгоритм policy gradient: как обучают стратегию напрямую

Алгоритм policy gradient: как обучают стратегию напрямую

Разбираем алгоритм policy gradient: теорема о градиенте, формула REINFORCE, роль baseline и log-производной. С примерами вывода, типовыми ошибками и интерактивным расчётом сходимости.

20 июня 20267 минут
Алгоритм UMAP: как работает снижение размерности

Алгоритм UMAP: как работает снижение размерности

Алгоритм UMAP простыми словами: как метод строит граф ближайших соседей, оптимизирует низкоразмерное вложение, чем отличается от t-SNE и как подобрать n_neighbors и min_dist для визуализации данных.

20 июня 20268 минут
Алгоритм XGBoost: как работает градиентный бустинг

Алгоритм XGBoost: как работает градиентный бустинг

Алгоритм XGBoost простыми словами: градиентный бустинг над деревьями решений, формула аддитивной модели, learning rate, регуляризация, ранняя остановка и разбор типовых задач.

19 июня 20268 минут
Оптимизатор RMSprop: формула и параметры

Оптимизатор RMSprop: формула и параметры

Как работает RMSprop: формула скользящего среднего квадратов градиента, роль rho и learning rate, отличия от AdaGrad и Adam. Разбор с интерактивным калькулятором траектории.

19 июня 20268 минут
Стекинг моделей (stacking): как собрать ансамбль

Стекинг моделей (stacking): как собрать ансамбль

Стекинг моделей stacking: как базовые алгоритмы и мета-модель образуют ансамбль, зачем нужны out-of-fold предсказания и чем стекинг отличается от бэггинга и бустинга.

19 июня 20267 минут
Матрица ошибок (confusion matrix): формула и пример

Матрица ошибок (confusion matrix): формула и пример

Матрица ошибок confusion matrix показывает TP, FP, FN и TN классификатора: как её строить и считать accuracy, precision, recall и F1-score на примере спам-фильтра и медицинского теста.

11 июня 20268 минут
Метод k ближайших соседей (kNN): как работает алгоритм

Метод k ближайших соседей (kNN): как работает алгоритм

Метод k ближайших соседей простыми словами: как считается расстояние между объектами, как выбрать число соседей k и как работает голосование классов на числовом примере.

11 июня 20268 минут
Оптимизатор Adam: формула и параметры

Оптимизатор Adam: формула и параметры

Как работает Adam: формула обновления весов, bias correction, роль beta1 и beta2, сравнение с SGD и RMSProp. Разбор с интерактивным калькулятором траектории.

11 июня 20267 минут
Случайный лес: алгоритм Random Forest простыми словами

Случайный лес: алгоритм Random Forest простыми словами

Случайный лес (Random Forest) - ансамблевый метод ML: как работает бэггинг, чем отличается от одного дерева, Out-of-Bag оценка, важность признаков и разбор задач.

11 июня 20267 минут
Стохастический градиентный спуск SGD: формула и шум

Стохастический градиентный спуск SGD: формула и шум

Стохастический градиентный спуск (SGD) простыми словами: формула обновления весов, откуда берётся шум мини-батча и почему метод не сходится точно в минимум при постоянной скорости обучения.

11 июня 20268 минут