Полный набор знаний математики для старта в Data Science. Подготовка к собеседованию по математическим вопросам на Data Science позиции.

Программа курса "Математика для Data Science"

После занятий Вы будете знать, зачем учить математику, что это даст, и какая польза от неё в мире Data Science.
1. Начала теории множеств
Множества, соответствия, отношения. Операции над множествами. Структура математических утверждений. Кванторы. Математическая логика определений, формулировок и доказательств.

Числовые множества. Натуральные, целые, рациональные, вещественные числа. Основные законы.Понятие о числовой последовательности и способах ее задания. Арифметическая прогрессия, определение и свойства. Формула n–го члена и суммы первых n членов прогрессии.
2. Геометрическая прогрессия. Векторная алгебра
Геометрическая прогрессия, определение, свойства. Формула n-го члена и суммы первых n членов прогрессии. Бесконечно убывающая геометрическая прогрессия, ее сумма. Векторная алгебра. Понятие вектора. Коллинеарность и компланарность векторов. Операции над векторами: сложение, умножение на число.

Скалярное произведение, векторное произведение.
3. Теория вероятностей. Рациональные уравнения
Операции над событиями, классическая модель вероятности с использованием комбинаторных формул, вероятности сложных событий, формула включения-исключения, схема Бернулли, условная вероятность, независимость событий, формула полной вероятности, формула Байеса.

Рациональные уравнения. Равенство, тождество, уравнение. Корень уравнения. Равносильные уравнения и неравносильные преобразования при решении уравнений.
4. Рациональные уравнения. Алгебраические уравнения
Расширение и сужение области допустимых значений уравнения. Линейные уравнения. Квадратные уравнения. Дискриминант. Формула для решения квадратных уравнений. Теоремы Виета, прямая и обратная.

Алгебраические уравнения и системы уравнений. Системы уравнений. Замены переменных.
5. Иррациональные уравнения. Графический способ решения систем
Иррациональные уравнения, область допустимых значений. Совместные и несовместные системы уравнений. Определенные и неопределенные системы уравнений. Системы двух линейных уравнений с двумя неизвестными.

Графический способ решения систем уравнений.
6.1. Неравенства
Рациональные неравенства. Числовые неравенства, их свойства. Неравенства с одной переменной, равносильные преобразования неравенств. Решение квадратных неравенств, рациональных неравенств. Метод интервалов.

Системы рациональных неравенств. Равносильные преобразования систем. Совокупность систем неравенств.
6.2. Неравенства
Алгебраические неравенства. Иррациональные неравенства и их системы. Область допустимых значений. Неравенства, содержащие знак модуля, и их системы.

Схемы решения. Метод оптимизации и логарифмические неравенства.
7. Функции, график и свойства
Понятие числовой функции, способы задания, область определения, область значений функции. График функции. Элементарные функции.

Общие свойства функции: промежутки знакопостоянства, монотонность, ограниченность, чётность/нечетность, периодичность.
8. Графики функций и их преобразования
Графики прямой функции. Понятие обратной функции. Графики обратной функции. Преобразования графиков функций: сдвиг вдоль осей координат, растяжение и сжатие вдоль осей координат.
Преобразования, связанные с наличием знака модуля у аргумента или функции.
9. Производная, исследование функций
Производная. Уравнение касательной к графику функции. Правила вычисления производных: производные суммы, разности, произведения и частного двух функций. Таблица производных.

Производная сложной функции. Максимумы и минимумы (экстремумы) функции, промежутки возрастания и убывания. Исследование функций. Общая схема построения графиков функций.
10. Исследование функций. Интеграл
Нахождение наибольшего и наименьшего значений функции на отрезке. Применение производной для решения задач. Физические приложения производной.

Понятие первообразной. Неопределенный и определенный интеграл. Техника интегрирования.

Базовая математика

1. Введение
Об основаниях математики. Законы формальной логики. Интуитивная теория множеств. Понятие функции (отображения). Понятие точной грани множества, её существование.
2. Числовые последовательности
Определение числовой последовательности. Понятие предела числовой последовательности. Операции над последовательностями и их пределами. Критерий Коши сходимости последовательностей. Свойства монотонных последовательностей. Предельные точки последовательностей, их существование. Примеры.
3. Предел числовой функции
Понятие числовой функции. Определение предела числовой функции по Коши и по Гейне. Доказательство эквивалентности определений пределов. Примеры. Предел и арифметические операции. Сравнение пределов. О-символика. Асимптотическое сравнение функций в точке. Первый и второй замечательные пределы. Их следствия. Основные асимптотические эквивалентности. Применение эквивалентности к нахождению пределов.
4. Непрерывность числовой функции
Определение непрерывности в точке и на множестве. Примеры. Непрерывность арифметических операций и композиции. Односторонняя непрерывность и классификация точек разрыва. Примеры. Свойства. Локальная ограниченность и сохранение знака. Теорема о промежуточных значениях непрерывной функции. Теоремы Вейерштрасса о максимуме и минимуме. Равномерная непрерывность, теорема Кантора-Гейне. Теорема об обратной функции.
5. Дифференцируемость числовой функции
Определение и физический смысл производной. Определение дифференцируемости. Эквивалентность определений. Дифференциал и производная. Их геометрический смысл. Необходимое условие дифференцируемости. Примеры. Теорема о производной композиции. Арифметические операции над дифференцируемыми функциями. Производная обратной функции. Производные высших порядков. Формула Лейбница. Вывод производных элементарных функций. Некоторые высшие производные элементарных функций.
6. Основные теоремы дифференциального исчисления
Необходимое условие локального экстремума – теорема Ферма. Теорема Ролля о нуле производной. Формула конечных приращений Лагранжа. Геометрический смысл. Формула конечных приращений Коши. Правила Лопиталя раскрытия неопределённостей. О связи коэффициентов многочлена с его высшими производными. Формула Тейлора. Остаточные члены в форме Лагранжа и Пеано. Разложение некоторых функций по формуле Тейлора. Использование формулы Тейлора для приближённых вычислений.
7. Различные вопросы дифференциального исчисления
Понятие о первообразной. «Единственность» первообразной. Неопределённый интеграл и его свойства. Замена переменной в неопределённом интеграле. Следствия. Формула интегрирования по частям. Пример. Связь знака производной с поведением функции. Достаточные условия локального экстремума. Выпуклость функции и точки перегиба. Связь со второй производной. Асимптоты графика функции. Общая схема исследования функций. Численное дифференцирование. Формулы конечных разностей. Погрешность формул конечных разностей. Итерационные методы решения алгебраических уравнений. Методы бинарного поиска, секущих и Ньютона.
8. Функции многих переменных
Метрические пространства. Понятие шара. Предел последовательности в метрическом пространстве. Полнота. Внутренние и граничные точки. Открытые и замкнутые множества. Ограниченные, компактные и предкомпактные множества. Предел и непрерывность функции в метрических пространствах. Принцип сжимающих отображений. Понятие о линейных пространствах. Арифметические пространства. Норма в линейных пространствах. Примеры. Эквивалентность. Сходимость в арифметических пространствах. Свойства. Функции и функционалы многих переменных. Примеры. Теорема о промежуточных значениях непрерывного функционала. Теоремы Вейерштрасса о максимуме и минимуме.
9. Дифференцируемость функций многих переменных
Дифференцируемость (производная по Фреше). Необходимое условие дифференцируемости по Фреше. Производная по направлению (производная Гато). Связь производной по направлению и градиента. Смысл градиента. Частные производные и матрица Якоби. Примеры. Дифференциал функции многих переменных, геометрический смысл. Производная композиции дифференцируемых функций. Высшие производные. Теорема о равенстве смешанных производных. Формула Тейлора для функций многих переменных. Необходимое условие локального экстремума функционала. Матрица Гессе и достаточное условие локального экстремума. Понятие об условном экстремуме. Примеры. Метод градиентного спуска. Его вариации. Теорема сходимости.
10. Интеграл Римана
Интегральное исчисление. Понятие разбиения. Интегральные суммы (нижние, верхние). Определённый интеграл Римана числовой функции. Необходимое условие интегрируемости. Пример. Критерий Дарбу. Классы интегрируемых функций. Основные свойства интеграла Римана. Интеграл с переменным верхним пределом и первообразная. Формула Ньютона-Лейбница. Примеры. Формулы замены переменного и интегрирования по частям. Понятие меры Жордана многомерной фигуры. Площади и объёмы. Многомерные разбиения и интегральные суммы. Кратный интеграл Римана и его основные свойства. Формула замены переменного в кратном интеграле. Полярная замена. Сведение кратного интеграла к повторному. Расщепление интеграла. Примеры.
11. Вопросы интегрального исчисления
Несобственные интегралы Римана I, II и III родов. Сходимость Н. И. Основные примеры несобственных интегралов I и II родов. Критерий Коши сходимости несобственного интеграла. I, II и частный признаки сравнения несобственных интегралов. Условная и абсолютная сходимость. Признак Дирихле-Абеля. Примеры несобственных интегралов. Главное значение несобственного интеграла. Примеры. Понятие длины параметрический кривой. Вычисление длин и площадей с помощью интеграла Римана. Вычисление интегралов средствами компьютерной техники. Основная идея классических квадратурных формул. Построение формулы трапеций и оценка её погрешности. Формулы прямоугольников, трапеций и Симпсона (парабол).
12. Ряды
Числовой ряд и его сумма. Пример – геометрическая прогрессия. Критерий Коши сходимости числовых рядов. Гармонический ряд. Необходимое условие сходимости числового ряда. I и II признаки сравнения числовых рядов. Специальные признаки: Даламбера и Коши. Примеры. Признак Коши-Маклорена. Частный признак сравнения. Абсолютная и условная сходимость числовых рядов. Признаки Дирихле и Лейбница сходимости знакопеременных рядов. Вопрос «коммутативности» суммы ряда: теоремы Коши и Римана. Асимптотика частичных сумм числовых рядов. Функциональные ряды и последовательности. Примеры. Поточечная и равномерная сходимости. Эквивалентное определение. Критерий Коши равномерной сходимости. Признак Вейерштрасса равномерной сходимости. Свойства равномерного предела: непрерывность и интегрируемость. Дифференцирование функциональных рядов и последовательностей. Степенные ряды (ряды Тейлора). Теорема Коши-Адамара. Примеры.
13. Теория меры и интеграла Лебега
Алгебры и сигма-алгебры множеств. Примеры и свойства. Минимальная сигма-алгебра. Борелевская сигма-алгебра. Определение меры. Сигма-аддитивные меры. Свойства меры. Мера Жордана – не сигма-аддитивная мера. Другие примеры мер: считающая мера, дискретная вероятность. Определение и свойства одномерной меры Лебега. Измеримые функции и определение интеграла Лебега. Свойства интеграла Лебега. Критерий интегрируемости. Критерий Лебега интегрируемости функции по Риману. Сходимости в среднем, по мере и почти всюду, их связь. Теоремы Лебега, Леви и Фату. Интегрируемость по Лебегу функции Дирихле. Интеграл Лебега относительно считающей меры. Функциональные пространства L_p(X).

Математический анализ

1. Матрицы
Операции над матрицами, их свойства. Элементарные преобразования и метод Гаусса приведения к ступенчатому виду. Системы линейных уравнений, метод Гаусса их решения.
2. Определитель матрицы
Свойства определителя. Разложения определителя. Определитель произведения матриц. Метод Гаусса вычисления определителя.
3. Обратная матрица, ее явный вид
Свойства операции обращения. Вычисление обратной матрицы с помощью элементарных преобразований строк. Правило Крамера решения систем линейных уравнений.
4. Однородные и неоднородные системы линейных уравнений – геометрический подход
Фундаментальная система решений. Векторное пространство, его базис и размерность, координаты вектора. Линейные подпространства и линейные многообразия.
5. Линейная зависимость в векторном пространстве
Линейная зависимость системы строк (столбцов) матрицы, базис и ранг. Ранг матрицы, определение ранга через миноры. Основная теорема о линейной зависимости. Ранг произведения матриц. Метод Гаусса вычисления ранга. Критерии совместности и определенности систем линейных уравнений в терминах ранга.
6. Комплексные числа
Геометрическое изображение, алгебраическая и тригонометрическая формы. Формула Муавра, извлечение корня из комплексного числа.
10. Отображения в евклидовых пространствах
Сопряженное отображение, свойства его ядра и образа. Специальные классы отображений: ортогональные операторы, самосопряженные операторы.
7. Линейные отображения (операторы)
Матрица линейного отображения и ее изменение при переходе к другому базису. Образ и ядро линейного отображения, связь между их размерностями.
8. Собственные значения и собственные векторы линейных отображений
Характеристический определитель. Собственные подпространства, алгебраическая и геометрическая кратности собственного значения. Операторы простой структуры и диагонализуемые матрицы.
9. Евклидовы пространства
Скалярное произведение, длина вектора, неравенство Коши-Буняковского. Ортогональные базисы. Метод ортогонализации Грама-Шмидта. Задачи минимизации в евклидовом пространстве, ортогональное дополнение, ортогональная проекция вектора.
11. Билинейные формы
Матрицы билинейной формы и ее изменение при переходе к другому базису. Симметричные билинейные формы и квадратичные формы. Канонический вид квадратичной формы, закон инерции. Положительно определенные матрицы, критерий Сильвестра положительной определенности.

Линейная алгебра

1. Основные правила комбинаторики
Правило подсчета количества комбинаторных объектов. Принцип Дирихле. Примеры.
2. Множества
Круги Эйлера, операции на множествах. Формула включений и исключений. Примеры.
3. Сочетания
Размещения, перестановки и сочетания. Бином Ньютона. Треугольник Паскаля. Сочетания с повторениями.

Комбинаторика

1. Случайные события
Основные понятия теории вероятностей. Определение вероятностного пространства, простейшие дискретные случаи (выборки с порядком и без него, упорядоченные и неупорядоченные), классическая вероятностная модель. Объяснить, что такое вероятность случайного события и научить вычислять вероятности сложных событий. Независимость событий. Попарная независимость и независимость в совокупности.
2. Случайные величины
Познакомиться с главным объектом, который изучает теория вероятностей: узнать, что такое случайные величины, для чего они нужны и какие у них есть характеристики. Функция распределения.
3. Совместное распределение, условное распределение
Теорема Байеса. Независимость случайных величин.
4. Математическое ожидание, дисперсия, корреляция
Определение математического ожидания, дисперсии, ковариации и корреляции, их свойства.
5. Основные законы распределения
Познакомиться с законами распределения, часто встречающимися при математическом моделировании реальных явлений; научиться моделировать случайные величины с нужным законом распределения на компьютере. Стандартные дискретные и непрерывные распределения, их математические ожидания, дисперсии и свойства. биномиальное, равномерное, нормальное, пуассоновское, показательное, геометрическое. Домашние задания: Случайные события и величины
7. Точечные оценки и их свойства
Оценивать неизвестные величины по наблюдениям и узнать какими свойствами должны обладать хорошие оценки.
6. Моделирование случайных величин
Моделировать случайные величины с нужным законом распределения на компьютере. Основные теоремы теории вероятностей. Неравенство Чебышева. Закон больших чисел. Центральная предельная теорема.
8. Интервальные оценки
Выборочные характеристики проанализировать, какое распределение будет выявлено на выборочных данных. Домашние задания: Моделирование случайных величин. Вычисление выборочных характеристик
9. Проверка гипотез
Объяснить в чём заключается задача проверки статистической гипотезы и как правильно сформулировать ответ в этой задаче, как принимается решение, принять гипотезу или отвергнуть.
10. Проверка гипотез при A/B тестировании
Ознакомиться с двумя видами гипотез, которые проверяются при A/B-тестировании и разобрать критерии их проверки.
11. Исследование зависимостей
Не путать разные виды зависимостей, не делать поспешные выводы о наличии причинно-следственной связи между признаками; исследовать зависимость пары номинальных признаков с помощью проверки гипотез и нормированных коэффициентов связи. Проверка гипотез
12. Регрессии
Применение теоремы Гаусса-Маркова, а также основные виды регрессий для построения прогнозов на основе зависимостей между признаками.

Теория вероятностей
и математическая статистика

Word2vec
Градиентный спуск
Backpropagation
Случайный лес


Классификация наблюдений: логистическая и пробит регрессии

Метод ближайших соседей (KNN)
Классификация наблюдений: байесовский классификатор

Темы дополнительных сессий

На них мы обсуждаем применение высшей математики в дата сайенс.

Итоговое занятие

Подведем итоги нашего курса, в том числе завершим обсуждение линейных регрессионных моделей, свойства оценок коэффициентов и способов их построения.