Лекция 1. Введение в машинное обучение.

43 points from 71 min video · 4 min read

Summary

Лекция посвящена основам машинного обучения, включая типы задач и методы оценки моделей. Она предназначена для студентов, изучающих концепции машинного обучения.

Key Points

Машинное обучение является модульным процессом, позволяющим комбинировать различные алгоритмы для достижения оптимальных результатов.
Контролируемое обучение является ключевым направлением в нейронных сетях.
Проблема переобучения требует внимания при разработке моделей.

Введение в машинное обучение1:10

Основная идея этой лекции заключается в том, что машинное обучение очень модульно.1:10
Вы можете комбинировать различные части алгоритма обучения и получать разные результаты.1:13
Итеративно изменяя компоненты, вы можете найти что-то оптимальное.1:26

Типы задач машинного обучения1:42

Существуют различные типы задач машинного обучения, но в конечном итоге мы сосредоточимся на контролируемом обучении, так как нейронные сети обычно решают именно эти задачи.1:42
Метод линейной регрессии обучается с помощью метода эмпирического минимизации риска.2:27
Важно разделять данные на тестовые и обучающие наборы, чтобы избежать переобучения.2:38
Некоторые задачи трудно классифицировать и отнести к одному типу, и существуют задачи, которые находятся где-то посередине.3:26

Обучение с учителем3:47

Существует три большие категории задач машинного обучения: неконтролируемое обучение, обучение с подкреплением и контролируемое обучение.3:47
Неконтролируемое обучение включает в себя такие задачи, как кластеризация, где, например, можно разделить клиентов на группы для более эффективной рекламы.4:13
Обучение с подкреплением основано на том, что алгоритм работает в симуляции окружающего мира, выполняет действия и получает за них награды или штрафы.5:03
AlphaGo - это система, построенная на основе обучения с подкреплением, которая смогла стать эффективной, играя миллионы игр против самой себя.5:40

Модель K-ближайших соседей7:18

Математика очень полезна и идеально подходит для описания задач машинного обучения.7:18
Мы будем называть функцию, которая сопоставляет ответы этим объектам, истинной зависимостью.7:52

Проблема переобучения8:20

Функция, которую мы хотим восстановить, может быть использована для предсказания, кликнет ли человек на рекламу.8:20
Эффективное предсказание функции позволяет более эффективно тратить деньги на рекламу.8:51
В supervised learning у нас есть объекты, для которых мы знаем ответы.9:06
В unsupervised learning у нас есть объекты, но мы не знаем ответы.9:16
Очень хорошо, когда мы можем закодировать набор объектов с помощью вектора, состоящего из вещественных или целых чисел.9:32
Почти вся аппаратура машинного обучения разработана для данных, которые в конечном итоге сводятся к матрице или таблице.9:55

Методы оценки качества модели11:26

Функции могут быть числовыми, когда это просто реальное число, или категориальными, которые могут быть строками и закодированы как целые числа.11:26
Пример категориальной функции: название района, в котором находится дом, не может быть упорядочено.12:28
Пример порядковой функции: рейтинг состояния дома, который может быть 'плохой', 'нормальный', 'хороший' и 'отличный'.13:02
Если набор ответов y состоит из нулей и единиц, это называется задачей классификации.14:31
Пример задачи классификации: нужно определить, кликнет ли человек на рекламу, где ответ будет 0 (нет) или 1 (да).14:58
Задача регрессии, где набор ответов - это реальное число, например, предсказание цены дома.15:18
Пример задачи классификации: набор данных Fisher Iris, где собраны данные о различных видах ирисов.15:44
Задача классификации в наборе данных Fisher Iris состоит в том, чтобы определить, к какому из трех видов относится цветок, основываясь на его характеристиках.16:51

Кросс-валидация17:44

Задача предсказания стоимости дома с такими признаками, как расстояние до метро, рейтинг состояния дома, количество комнат, площадь, год постройки и название района, является задачей регрессии.17:44
Числовые признаки включают площадь, количество комнат, год постройки и расстояние до метро, а порядковый признак — это рейтинг состояния дома.17:54
Рейтинг состояния дома, такой как плохой, средний, хороший или отличный, является категориальным признаком с порядковым отношением.18:06
Название района, где находится дом, является категориальным признаком.18:23
Поисковая система формализует задачу, понимая, какие данные и какой набор данных у нее будет, включая запрос пользователя и текст документа.19:02

Заключение и рекомендации20:11

Задача ранжирования заключается в том, чтобы отсортировать документы по их релевантности, то есть по тому, насколько пользователь хочет их видеть.20:11
Для представления дат в модели машинного обучения необходимо преобразовать их в числовой формат, например, в количество секунд, прошедших с 1970 года.21:58
K-Nearest Neighbors (KNN) может использоваться как классификатор и регрессор, и для регрессии мы берем среднее значение ответов ближайших соседей.24:35
Гиперпараметр K в KNN задается заранее и не может быть определен во время обучения.25:10
Проблема высокой размерности данных заключается в том, что при увеличении числа признаков точки становятся более разреженными, что затрудняет поиск ближайших соседей.26:56
Переобучение происходит, когда качество модели на обучающей выборке значительно лучше, чем на валидационной или тестовой выборке.1:03:25
Для борьбы с переобучением можно разделить данные на обучающую, валидационную и тестовую выборки.57:22
Кросс-валидация позволяет оценить качество модели, не отказываясь от данных, разделив их на несколько частей и последовательно используя каждую часть для тестирования.1:06:41

Insights

Модульность машинного обучения позволяет адаптировать алгоритмы под конкретные задачи, что делает его универсальным инструментом.
Понимание различных типов задач и методов оценки качества моделей критически важно для успешного применения машинного обучения в реальных проектах.
Кросс-валидация является важным инструментом для борьбы с переобучением и повышения надежности моделей.

Action Items

Изучите различные алгоритмы машинного обучения и попробуйте комбинировать их для решения практических задач.