Технологии и фронтиры науки о данных 2025

Введение: AI в нашей жизни, прогресс ускоряется. Что такое интеллект и что такое искусственный интеллект. Классификация методов AI, что такое ML и DL. Модальности данных в AI-системах.

Обучение с учителем и без учителя, self-supervision. Идея обучения с подкреплением. Ранняя история идей AI от древних греков до Азимова. Первые шаги CS и AI: Шеннон, Цузе, Дартмутский семинар, перцептрон Розенблатта. Алан Тьюринг: от машины до теста and beyond.

AI в 1960-е: Logic Theorist, Shakey, ELIZA, SHRDLU, машинный перевод и отчёт ALPAC. AI в 1970-е: экспертные системы, MYCIN, certainty factors, нечёткая логика. Представление знаний: графы знаний.

Почему ML — раздел теории вероятностей. Основы теории вероятностей, байесовский подход. Примеры: медицинский тест, парадокс Монти Холла, ошибка прокурора, ошибка адвоката, реальные примеры, парадокс Спящей красавицы. Теорема Байеса в ML и задачи байесовского вывода.

Задачи байесовского вывода. Испытания Бернулли: максимизация правдоподобия, вывод для равномерного априорного распределения, правило Лапласа. Сопряжённые априорные распределения, бета-распределения.

Что такое линейная регрессия, почему "регрессия". Метод наименьших квадратов и градиенты. Вероятностные предположения линейной регрессии. Признаки в линейной регрессии, локальные признаки, оверфиттинг.

Оверфиттинг и откуда он берётся. Регуляризация: гребневая и лассо-регрессия, примеры, геометрия регуляризации. Регуляризация и априорные распределения, байесовский вывод в линейной регрессии, примеры.

Case study: линейная регрессия и COVID-19. Что такое классификация, геометрия линейных поверхностей, линейный дискриминант Фишера. Порождающие модели и оптимальный байесовский классификатор. Пример: LDA и QDA

Напоминание. Идея логистической регрессии, сигмоид, максимизация правдоподобия, логистическая регрессия для нескольких классов. Метод ближайших соседей. Проклятие размерности.

Статистическая теория принятия решений: функция регрессии, оптимальный байесовский классификатор. Разложение bias-variance-noise. Байесовский выбор моделей.

Наивный байесовский классификатор. Несбалансированные классы, калибровка классификаторов. Case study: проспективные и ретроспективные исследования