Математическая Статистика

📔
Задачник нашего курса [скачать]
📹
Видео лекции. Родионов И.В. Осень 2019 [playlist]

Задачи

Семинар 1. Виды сходимостей случайных векторов

Семинар 2. Статистики и оценки, их свойства

Cеминар 3. Методы нахождения оценок

Cеминар 4. Сравнение оценок и эффективные оценки

Семинар 5. Достаточные статистики и оптимальные оценки

Семинар 6. Доверительные интервалы

Семинар 7. Байесовские методы

Семинар 8. Задача линейной регрессии

Семинар 9. Проверка Статистических Гипотез

Семинар 10. Проверка гипотез в гауссовской регрессионной модели

Cеминар 11. критерия согласия

Семинар 12. Коэффициенты корреляции

Посещаемость и оценки

Посещаемость

Оценки

Критерии оценок

  • За работу в семестре можно набрать x баллов, где х - число от 0 до 2.
  • За первую контрольную набирается y баллов, за вторую z, где y и z - числа от 0 до 3. Числа х, у и z могут не быть целыми.
  • Теперь об экзамене.

    1) Студент "стартует" с -4 баллов и за семестр набирает x+y+z баллов. После округления числа -4+x+y+z получается целое число alpha из диапазона от -4 до 4.
    2) Любой студент может сдавать устную часть экзамена. На подготовку дается час. За устную часть ставится целое число баллов beta из диапазона от 0 до 8.
    3) Если beta < 2, то в итоге ставится неуд. Если beta > 2, то в итоге ставится alpha + beta.

Программа курса

  1. Вероятностно–статистическая модель. Понятия наблюдения и выборки. Моделиро- вание выборки из неизвестного распределения. Параметрическая статистическая мо- дель.
  2. Различные виды сходимостей случайных векторов: с вероятностью 1, по вероятно- сти, по распределению. Законы больших чисел для сходимостей случайных векторов. Многомерная центральная предельная теорема (б/д). Теорема о наследовании схо- димости.
  3. Лемма Слуцкого. Дельта-метод. Многомерный аналог дельта-метода (б/д).
  4. Эмпирическое распределение и эмпирическая функция распределения. Обоснован- ность основной задачи математической статистики и теорема Гливенко–Кантелли. Теорема Колмогорова (б/д).
  5. Статистики и оценки. Примеры статистик: выборочные характеристики, порядковые статистики. Основные свойства оценок: несмещенность, состоятельность, сильная со- стоятельность, асимптотическая нормальность. Примеры.
  6. Наследование состоятельности и сильной состоятельности при взятии непрерывной функции. Лемма о наследовании асимптотической нормальности. Выборочные кван- тили. Асимптотическая нормальность выборочной квантили и выборочной медианы (б/д). Примеры.
  7. Метод моментов, состоятельность и асимптотическая нормальность (б/д) оценки ме- тода моментов.
  8. Сравнение оценок, функция потерь и функция риска. Подходы к сравнению оце- нок: равномерный, байесовский, минимаксный, асимптотический. Допустимые оцен- ки. Примеры.
  9. Считающая мера. Понятие плотности в дискретном случае. Корректность определе- ния.
  10. Неравенство Рао–Крамера и эффективные оценки. Критерий эффективности оцен- ки. Многомерное неравенство Рао-Крамера (б/д).1
  11. Экспоненциальные семейства распределений. Существование эффективных оценок для экспоненциальных семейств.
  12. Метод максимального правдоподобия. Экстремальное свойство функции правдопо- добия. Состоятельность оценки максимального правдоподобия.
  13. Асимптотическая нормальность оценки максимального правдоподобия в регулярном случае для одномерного параметра (б/д). Теорема Бахадура (б/д). Эффективность оценки максимального правдоподобия.
  14. Условное математическое ожидание случайной величины относительно σ-алгебры. Теорема Радона–Никодима (б/д) и обоснование существования условного математи- ческого ожидания. Явный вид условного математического ожидания в случае, если σ-алгебра порождена счетным разбиением.
  15. Основные свойства условного математического ожидания. Теорема о наилучшем квадратичном прогнозе.
  16. Условные распределения и условные плотности. Достаточное условие существования условной плотности. Вычисление условного математического ожидания с помощью условной плотности.
  17. Достаточныестатистикиидостаточныеразбиения.КритерийфакторизацииНеймана– Фишера (док-во для дискретного и абсолютно непрерывного случаев). Примеры. Теорема Колмогорова–Блекуэлла—Рао об улучшении несмещенных оценок.
  18. Полные достаточные статистики. Теорема Лемана-Шефаре об оптимальной оцен- ке. Теорема о полной достаточной статистике в экспоненциальном семействе (б/д). Примеры.
  19. Доверительные интервалы. Метод центральной статистики. Асимптотические дове- рительные интервалы. Построение асимптотических доверительных интервалов с по- мощью асимптотически нормальных оценок. Примеры.
  20. Байесовские оценки, их оптимальность в байесовском подходе к сравнению оценок. Сопряженное распределение. Неравенство Ван Триса (б/д).
  21. Линейная регрессионная модель. Оценка наименьших квадратов, ее основные свой- ства. Теорема о наилучшей оценке в классе линейных оценок (б/д). Несмещенная оценка для дисперсии ошибки измерений σ2.
  22. Гауссовская линейная модель. Достаточные статистики в гауссовской линейной мо- дели. Наилучшие несмещенные оценки параметров в гауссовской линейной модели, их распределения.
  23. Распределения хи-квадрат, Стьюдента и Фишера, их свойства. Теорема об ортого- нальных разложениях гауссовского вектора (б/д). Доверительные интервалы для параметров гауссовской линейной модели.2
  24. Проверка статистических гипотез: общие принципы и основные понятия (крити- ческое множество, уровень значимости, альтернативы, ошибки первого и второго родов, функция мощности). Сравнения критериев: наиболее мощные и равномер- но наиболее мощные критерии. Несмещенность и состоятельность статистического критерия, p-значение.
  25. Лемма Неймана–Пирсона. Построение с ее помощью наиболее мощных критериев. Примеры. Теорема о монотонном отношении правдоподобия (б/д). Построение рав- номерно наиболее мощных критериев для односторонних альтернатив.
  26. F -критерий для проверки линейных гипотез в гауссовской линейной модели. Пример с двумя гауссовскими выборками, отличающимися сдвигом: проверка гипотезы об их однородности.
  27. Критерий согласия Пирсона для проверки простой гипотезы в схеме испытаний Бер- нулли с m ≥ 2 исходами, его состоятельность. Теорема Пирсона.
  28. Критерий ранговых сумм Уилкоксона. Статистика Манна-Уитни. Построение дове- рительного интервала для параметра сдвига θ. Сильная состоятельность медианы Ходжеса-Лемана (б/д).
  29. Критерий согласия Колмогорова. Критерий Андерсона-Дарлинга.

Recommended extra material

  • Short lectures on measure theory: [playlist]
  • Short lectures on Probability Theory [playlist]
  • Probability theory course IMPA [playlist]
  • Probability theory course Harvard University [playlist]
  • Interactive videos on probability from 3Blue1Brown [video]
  • Lectures in introduction to probability (in russian) [playlist]