Принцип максимального правдоподобия. Сравнение оценок МНК и метода максимального правдоподобия при нормальном

Целью данной курсовой работы является сравнение оценок МНК и ММП при нормальном распределении ошибок в классической линейной регрессии.

Отметим также, что выборочная дисперсия характеризует степень разброса случайной величины относительно ее выборочного среднего значения. Выборочная ковариация характеризует степень линейной статистической взаимосвязи двух случайных величин. При определенных условиях, которые будут рассмотрены позже, выражения (12) и (13) являются несмещенными эмпирическими оценками теоретических дисперсии и ковариации.
Иногда выборочные дисперсию и ковариацию определяют делением не на , а на . Такие оценки этих величин являются смещенными.
Из выражения (14) видно, что значения будут тем меньше, чем меньше ковариация между наблюдаемыми значениями переменных и , и чем больше значения выборочной дисперсии . Кроме того, знак совпадает со знаком ковариации , поскольку .
Оценки вида (9), (10) (или в других формах записи) являются выборочными эмпирическими оценками истинных (теоретических) параметров линейной регрессии. Эти оценки являются линейными относительно наблюдений. Эти оценки являются случайными величинами, поскольку зависят от случайных наблюдений.
Если независимая переменная не случайная (детерминированная) величина, то ее дисперсия равна нулю, а ковариация детерминированной и случайной величин равна нулю. В этом случае выборочные дисперсия (вариация) и выборочная ковариация величин и теряют смысл оценок соответствующих теоретических значений дисперсии и ковариации и должны рассматриваться только как некоторые характеристики наблюдаемых переменных, не связанные с их статистическими свойствами.

Широкое применение регрессионного анализа в настоящее время обуславливается следующими факторами: быстрая смена изучаемых областей (технология, материалов, условий эксплуатации), которая не позволяет тратить много времени на исследования и получения требуемых зависимостей; расширение областей применения (социология, история и пр.); повсеместная автоматизация, требующая множества моделей, применимых в данном конкретном случае с заданной точностью.
Были выполнены поставленные задачи:
изучены теоретические сведения о методе наименьших квадратов и его применение при нормальном распределении ошибок в классической линейной регрессии;
изучены теоретические сведения о применении условий Гаусса-Маркова;
изучены теоретические сведения о методе максимального правдоподобия и его применение при нормальном распределении ошибок в классической линейной регрессии;
выполнено сравнение оценок МНК и ММП при нормальном распределении ошибок в классической линейной регрессии. В результате обнаружили, что в классической линейной регрессии нахождение оценок МНК и ММП одинаковы при нормальном распределении ошибок;
решена практическая задача согласно варианту в Excel.