ПРОГРАММА КУРСА «МАТЕМАТИЧЕСКАЯ СТАТИСТИКА»
для 3-го курса. 2007-2008 учебный год. Лектор А. С. Холево
1. Выборка, выборочное пространство, статистика. Основные задачи параметрической статистики: точечное оценивание, интервальное оценивание, проверка гипотез.
2. Эмпирическая функция распределения. Выборочные среднее и дисперсия. Порядковые статистики, их распределение. Теорема Гливенко-Кантелли. Независимость распределения статистики Колмогорова от вида функции распределения наблюдений в случае ее непрерывности. Критерий Колмогорова для проверки гипотезы о данном непрерывном распределении.
3. Основные понятия теории статистических решений: решающее правило (стратегия), функция потерь, риск. Минимаксная стратегия, байесовская стратегия. Минимаксность байесовской стратегии с постоянным риском. Байесовская стратегия как стратегия, минимизирующая апостериорную функцию потерь.
4. Общее определение оценки максимального правдоподобия (о. м. п.). Случай конечного параметрического множества: о. м. п. как байесовская оценка для равномерного априорного распределения и простой функции потерь. Примеры: о. м. п. для параметров распределения Бернулли, нормального, равномерного распределений.
5. Определение достаточной статистики и факторизационная теорема (критерий достаточности) в случае дискретного выборочного пространства. Общее определение условного математического ожидания и условной вероятности относительно сигма-подалгебры и относительно статистики. Случай счетно-порожденной сигма-подалгебры. Условная плотность распределения одной случайной величины относительно другой. Свойства условного математического ожидания, геометрическая интерпретация как проектора в гильбертовом пространстве случайных величин. Общее определение достаточной статистики. Факторизационная теорема в общем случае: доказательство достаточности.
6. Несмещенные оценки функций от параметра. Среднеквадратичное отклонение. Несмещенная оценка с минимальной дисперсией. Теорема Блекуэлла-Колмогорова-Рао. Полные достаточные статистики.
7. Неравенство Рао-Крамера для одномерного параметра. Информационное количество Фишера. Условие достижимости равенства в неравенстве Рао-Крамера. Неравенство Рао-Крамера для оценок многомерного параметра.
8. Байесовские оценки с квадратичной функцией потерь. Апостериорная плотность. Байесовская оценка как условное математическое ожидание. Сравнение байесовских оценок и о. м. п. в случаях нормального распределения и распределения Бернулли.
9. Асимптотические свойства оценок. Состоятельные оценки. Состоятельность о. м. п. в случае одномерного параметра. Относительная энтропия (информационное количество Кульбака-Лейблера-Санова). Асимптотически нормальные оценки. Асимптотическая нормальность о. м. п. в случае одномерного параметра. Построение асимптотического доверительного интервала. Построение точного доверительного интервала по статистике, которая монотонно по распределению зависит от параметра. Точный и асимптотический доверительные интервалы для параметра распределения Бернулли. Гамма-распределение и бета-распределение.
10. Критерии значимости для сравнения двух гипотез. Ошибки 1-го и 2-го родов, мощность критерия. Равномерно наиболее мощный критерий. Критерий отношения правдоподобия. Лемма Неймана-Пирсона. Проверка гипотезы о точном значении среднего значения нормального распределения при известной дисперсии. Асимптотика ошибки 2-го рода в задаче сравнения двух простых гипотез.
11. Случайные векторы, их математическое ожидание и матрица ковариаций. Характеристическая функция: формула обращения для плотности и связь моментов с производными (без доказательства). Многомерное нормальное распределение. Плотность невырожденного многомерного нормального распределения. Свойства класса нормальных распределений: инвариантность относительно линейных преобразований, равносильность некоррелированности и независимости. Стандартный нормальный случайный вектор, инвариантность его распределения относительно ортогональных преобразований. Структура вырожденного многомерного нормального распределения. Двумерное нормальное распределение.
12. Распределения хи-квадрат, Стьюдента, Фишера (Снедекора). Распределение проекций и квадратичных форм от стандартного нормального вектора. Совместное распределение выборочного среднего и выборочной дисперсии для нормальной выборки. Доверительные интервалы и проверка гипотез о параметрах нормального распределения. Сравнение дисперсий и сравнение средних для двух нормальных распределений. Критерии Стьюдента и Фишера. Сравнение средних в нескольких нормальных выборках: однофакторная модель.
13. Оценивание коэффициентов линейной регрессии. Оптимальное свойство оценок наименьших квадратов. Оценка дисперсии ошибок. Доверительный эллипсоид и проверка гипотез о коэффициентах регрессии в модели с нормальными наблюдениями.
14. Критерии согласия. Критерий хи-квадрат для проверки гипотезы о заданном распределении. Теорема Пирсона.
Л И Т Е РА Т У Р А
1. Боровков А.А. Математическая статистика. М. Наука, 1984.
Гл. 1, п.1-3,6; Гл. 2, п.1-3,7-12,14,16,17,31,32; Гл. 3, п.1,2,5,16.
2. Козлов М. В., Прохоров А. В. Введение в математическую статистику, МГУ, 1987.
Гл. I, п.2,3,7,8; Гл. II, п.12,13; Гл. III, п.15-17,18,19; Гл. IV, п.20,21; Гл. V, п.23.
3. Севастьянов Б. А. Курс теории вероятностей и математической статистики. М-Ижевск. ИКИ, 2004. Гл. 11, 13-16.
4. Крамер Г. Математические методы статистики, М. Мир, 1975.