Контрольная работа: Анализ временных рядов

(у1 – у1)2 + (у2 – у2)2 + . . . + (уn – yn)2 = S.

S должно быть наименьшим (минимальным)

Принцип, положенный в основу метода наименьших квадратов, может быть записан в сжатом математическом виде следующим образом:

∑ (y – yt)2 = min. (1.4.1)

Из курса математического анализа известно, что при нахождении минимума функции нужно найти частные производные и приравнять их к нулю. Найдём минимум функции, используя уравнение параболы.

Имеем:

∑ (y – yt )2 = S; (1.4.2)

заменяем:

yt = a0 + a1 t + a2 t 2

и получаем:

∑( y - a0 - a1 t - a2 t 2 )2 = S.

Находим частные производные функции S сначала по параметру а0, а затем по а1 и а2, и приравниваем их к нулю.

;

; (1.4.3)

.

Преобразовывая, получаем:

 ;

 ; (1.4.4)

 .

 

Полученная система называется системой нормальных уравнений для нахождения параметров а0 , а1 и а2 при выравнивании по параболе второго порядка.

При выравнивании по показательной функции yt = a0 a1t параметры а0 и а1 определяются по методу наименьших квадратов отклонений логарифмов путём решения системы нормальных уравнений:

 ; (1.4.5)

 .

1.5 Приведение уравнения тренда к линейному виду

Если тренд представляет собой нелинейную функцию, то методы линейного регрессионного анализа для оценки его параметров неприменимы. Но к некоторым нелинейным функциям мы можем применить такие преобразования, которые приведут нас к линейному уравнению.

Если наш тренд представлен степенной линией регрессии, то есть он имеет вид:

yt = a0ta1, (1.5.1)

то логарифмируя обе части равенства, получим:

ln yt = ln a0 + a1 ln t.

Отсюда видно, что, введя новые переменные

z = ln yt , x = ln t,

мы получим уравнение вида

z = b0 +a1x,

где b0 = ln a0. Это обычное линейное уравнение.

Если линия тренда – парабола второго порядка

yt = a0 + a1 t + a2 t 2 ,

то заменой вида:

х1 = t, x2 = t 2,

мы получим линейную функцию двух переменных:

yt = a0 + a1 х1 + a2 х2 .

Оценку параметров такой функции можно провести методами линейного регрессионного анализа для множественной регрессии. [5, c.29]

Далее приведём основные понятия регрессионного анализа, которые используются для оценки параметров.

 

1.6 Оценка параметров уравнения регрессии

Уравнение регрессии всегда дополняется показателем тесноты связи. При использовании линейной регрессии в качестве такого показателя выступает линейный коэффициент корреляции ryt. Существуют разные модификации формулы линейного коэффициента корреляции. Некоторые из них приведены ниже:

 , (1.6.1)

или

. (1.6.2)

Как известно, линейный коэффициент корреляции находится в пределах:

 -1 ≤ ryt ≤ 1.

Следует иметь в виду, что величина линейного коэффициента корреляции оценивает тесноту связи рассматриваемых признаков в её линейной форме. Поэтому близость абсолютной величины линейного коэффициента корреляции к нулю ещё не означает отсутствия связи между признаками.

Для оценки качества подбора линейной функции рассчитывается квадрат линейного коэффициента корреляции ryt2, называемый коэффициентом детерминации. Коэффициент детерминации характеризует долю дисперсии результативного признака уt, объясняемую регрессией, в общей дисперсии результативного признака:

 (1.6.3)

где

 

общая дисперсия результативного признака у;

остаточная дисперсия, определяемая, исходя из уравнения регрессии

уt = f(t).

Соответственно величина 1 – r 2 характеризует долю дисперсии у, вызванную влиянием остальных, не учтённых в модели факторов.

Уравнение нелинейной регрессии, так же как и в линейной зависимости, дополняется показателем корреляции, а именно индексом корреляции R:

 (1.6.4)

Иначе, индекс корреляции можно выразить как

Величина данного показателя находится в границах:

0 ≤ R ≤ 1,

чем ближе к единице, тем теснее связь рассматриваемых признаков, тем более надёжно найденное уравнение регрессии.

Парабола второго порядка, как и полином более высокого порядка, при лианеризации принимает вид уравнения множественной регрессии. Если же нелинейное относительно объясняемой переменной уравнение регрессии при линеаризации принимает форму линейного уравнения парной регрессии, то для оценки тесноты связи может быть использован линейный коэффициент корреляции, величина которого в этом случае совпадёт с индексом корреляции.

Иначе обстоит дело, когда преобразования уравнения в линейную форму связаны с зависимой переменной. В этом случае линейный коэффициент корреляции по преобразованным значениям признаков даёт лишь приближённую оценку тесноты связи и численно не совпадает с индексом корреляции. Так, для степенной функции ух = ахb после перехода к логарифмически линейному уравнению lny = lna + blnx может быть найден линейный коэффициент корреляции не для фактических значений переменных х и у, а для их логарифмов, то есть rlnylnx. Соответственно квадрат его значения будет характеризовать отношение факторной суммы квадратов отклонений к общей, но не для у, а для его логарифмов:

.

Между тем при расчёте индекса корреляции используются суммы квадратов отклонений признака у, а не их логарифмов. С этой целью определяются теоретические значения результативного признака, то есть , как антилогарифм рассчитанной по уравнению величины  и остаточная сумма квадратов как . Индекс корреляции определяется по формуле

В знаменателе расчёта R2yx участвует общая сумма квадратов отклонений фактических значений у от их средней величины, а в расчёте r2lnx lny участвует . Соответственно различаются числители и знаменатели рассматриваемых показателей:

- в индексе корреляции и

- в коэффициенте корреляции.

Вследствие близости результатов и простоты расчётов с использованием компьютерных программ для характеристики тесноты связи по нелинейным функциям широко используется линейный коэффициент корреляции.

Несмотря на близость значений R и r  или R и r в нелинейных функциях с преобразованием значения признака у, следует помнить, что если при линейной зависимости признаков один и тот же коэффициент корреляции характеризует регрессию, как следует помнить, что если при линейной зависимости признаков один и тот же коэффициент корреляции характеризует регрессию как , так и , так как, то при криволинейной зависимости  для функции y=j(x) не равен  для регрессии x=f(y).

Поскольку в расчёте индекса корреляции используется соотношение факторной и общей суммы квадратов отклонений, то  имеет тот же смысл, что и коэффициент детерминации. В специальных исследованиях величину  для нелинейных связей называют индексом детерминации.

Оценка существенности индекса корреляции проводится, так же как и оценка надёжности коэффициента корреляции.

Индекс корреляции используется для проверки существенности в целом уравнения нелинейной регрессии по F-критерию Фишера:

где - индекс детерминации;

n – число наблюдений;

m – число параметров при переменных х.

Величина m характеризует число степеней свободы для факторной суммы квадратов, а ( n – m - 1) – число степеней свободы для остаточной суммы квадратов.

Для степенной функции  m = 1 и формула F – критерия примет тот же вид, что и при линейной зависимости:

Для параболы второй степени y = a0 + a1 x + a2 x2 +εm = 2 и

 (1.6.5)

Расчёт F-критерия можно вести и в таблице дисперсионного анализа результатов регрессии, как это было показано для линейной функции.

Индекс детерминации можно сравнивать с коэффициентом детерминации для обоснования возможности применения линейной функции. Чем больше кривизна линии регрессии, тем величина коэффициента детерминации меньше индекса детерминации. Близость этих показателей означает, что нет необходимости усложнять форму уравнения регрессии и можно использовать линейную функцию.

Практически, если величина разности между индексом детерминации и коэффициентом детерминации не превышает 0,1, то предположение о линейной форме связи считается оправданным. В противном случае проводится оценка существенности различия R2, вычисленных по одним и тем же исходным данным, через t – критерий Стьюдента:

 (1.6.6)

m |R- r| - ошибка разности между R2и r2, определяемая по формуле

 

Если t факт >t табл , то различия между рассматриваемыми показателями корреляции существенны и замена нелинейной регрессии уравнением линейной функции невозможна. Практически, если величина t < 2, то различия между Ryx и ryx несущественны, и, следовательно, возможно применение линейной регрессии, даже если есть предположения о некоторой нелинейности рассматриваемых соотношений признаков фактора и результата.

 

1.7 Аддитивная и мультипликативная модели временного ряда

Существует несколько подходов к анализу структуры временных рядов, содержащих сезонные или циклические колебания.

Простейший подход- расчет значений сезонной компоненты методом скользящей средней и построение аддитивной или мультипликативной модели временного ряда. Общий вид аддитивной модели следующий:

 Y= T + S + E.

Эта модель предполагает, что каждый уровень временного ряда может быть представлен как произведение трендовой, сезонной и случайной компонент. Общий вид мультипликативной модели выглядит так:

 Y = T∙S∙E.

Эта модель предполагает, что каждый уровень временного ряда может быть представлен как произведение трендовой, сезонной и случайной компонент. Выбор одной из двух моделей осуществляется на основе анализа структуры сезонных колебаний. Если амплитуда колебаний приблизительно постоянна, строят аддитивную модель временного ряда, в которой значения сезонной компоненты предполагаются постоянными для различных циклов. Если амплитуда сезонных колебаний возрастает или уменьшается, строят мультипликативную модель временного ряда, которая ставит уровни ряда в зависимость от значений сезонной компоненты.

Построение аддитивной и мультипликативной моделей сводится к расчету значений трендовой, циклической и случайной компонент для каждого уровня ряда.

Процесс построения модели включает в себя следующие шаги.

1.         Выравнивание исходного ряда методом скользящей средней.

2.         Расчет значений сезонной компоненты.

3.         Устранение сезонной компоненты из исходных уровней ряда и получение выровненных данных в аддитивной или мультипликативной модели.

4.         Аналитическое выравнивание уровней и расчет значений тренда с использованием полученного уравнения тренда.

5.         Расчет полученных по модели значений или

6.         Расчет абсолютных и относительных ошибок.

Если полученные значения ошибок не содержат автокорреляции, ими можно заменить исходные уровни ряда и в дальнейшем использовать временной ряд ошибок для анализа взаимосвязи исходного ряда и других временных рядов.[5, c. 67]

1.8 Стационарные временные ряды

После удаления тенденции (тренда) из временного ряда мы получим стационарный временной ряд. Его можно рассматривать как выборку Т последовательных наблюдений через равные промежутки времени из существенно более продолжительной (генеральной последовательности случайных величин. При этом статистические выводы делаются относительно вероятностной структуры генеральной последовательности. Такую последовательность удобно считать простирающейся неограниченно в будущее и, возможно, в прошлое. Последовательность случайных величин у1, у2, . . . или . . ., у-1, у0, у1, . . . называется случайным процессом с дискретным параметром времени.

Несмотря на полную произвольность вероятностных моделей последовательностей случайных величин, полезно отличать случайные процессы от множества случайных величин этого процесса, учитывая понятие времени. Грубо говоря, в случайном процессе наблюдения, разделённые небольшими промежутками времени, близки по значениям в отличие от наблюдений, далеко отстоящих друг от друга во времени. Более того, модель значительно упрощается после расширения конечной последовательности наблюдений до бесконечной.

Одним из таких упрощений является свойство стационарности. Будем считать, что поведение множества случайных величин с вероятностной точки зрения не зависит от времени.

Случайный процесс y(t) с непрерывным параметром времени можно определить для 0 ≤ t < ∞ или -∞ < t < ∞ и рассматривать с привлечением вероятностной меры на пространстве функций y(t). Выборка из такого процесса состоит из наблюдений в конечном числе точек времени , или из непрерывных наблюдений в интервале времени.

Наблюдение процесса, часто называемое реализацией, есть точка в соответствующем бесконечномерном пространстве, где определена вероятностная мера. Вероятность определяется на некоторых множествах, называемых измеримыми. Этот класс множеств включает вместе с любым множеством его дополнение, а также объединение и пересечение счётного числа множеств этого класса; вероятностная мера на этом классе множеств определяется таким образом, что вероятность объединения непересекающихся множеств равна сумме вероятностей отдельных множеств.

Практически мы интересуемся вероятностями, которые связаны с конечным числом случайных величин. Эти вероятности включают в себя функцию совместного распределения. [24, c. 88]

 

1.9 Применение быстрого преобразования Фурье к стационарному временному ряду

 Одно из назначений преобразования Фурье- выделять частоты циклических составляющих временного ряда, содержащего случайную компоненту.

Пусть число данных N представимо в виде N = N1 N2. Тогда можно записать

 t = t1 + (t 2-1)N1 , t1 = 1, . . ., N1 , t2 = 1, . . ., N2 ;

 j = j1 + j 2N2 , j1 = 0, . . ., N2 – 1 , j2 = 0, . . ., N1 - 1;

Отметим, что aN – j = aj и bN – j = - bj . Искомые коэффициенты являются соответственно действительной и мнимой частями суммы:

 (1.9.1)

 

Для их отыскания вычислим сначала величины

 

 

Для каждой пары ( j1, t1 ) , j1 = 0, . . ., N2 – 1 и t1 = 0, . . ., N1 . Поскольку

 и  ,

то существует около N1N2/2 = N/2 таких пар. После этого находятся действительная и мнимая части суммы (1.9.1):

  

  

для j = 0,1, . . ., [N/2]. Число операций умножения приближённо равно N2N в первых суммах и 2N1N во вторых суммах, так что число операций умножения в целом составляет примерно N (N2 + 2N1). В то же время число произведений в определении коэффициентов aj и bj , j=0,1, . . ., [N/2] примерно равно N2. [20, c.98], [21, c.78]

1.10 Автокорреляция остатков. Критерий Дарбина- Уотсона

Для каждого момента (периода) времени t = 1 : N значение компоненты et для аддитивной модели определяется как

 ,

где - сумма циклической и трендовой компонент, а для мультипликативной модели:

 

где - произведение циклической и трендовой компонент.

 Ошибки измерений нам неизвестны, а известны лишь эмпирические остатки.

Рассматривая последовательность остатков как временной ряд , можно построить график их зависимости от времени. В соответствии с предпосылками метода наименьших квадратов остатки et должны быть случайными. Однако при моделировании временных рядов часто встречаются ситуация, когда остатки содержат тенденцию или циклические колебания. Это свидетельствует о том, что каждое следующее значение остатков зависит от предшествующих. В этом случае говорят о наличии автокорреляции остатков.

Автокорреляция остатков может быть вызвана следующими причинами, имеющими различную природу. Во-первых, иногда она связана с исходными данными и вызвана наличием ошибок измерения в значениях результативного признака. Во-вторых, в ряде случаев причину автокорреляции остатков следует искать в формулировке модели. Модель может не включать фактор, существенное воздействие на результат, влияние которого отражается в остатках, вследствие чего последние могут оказаться автокоррелированными. Очень часто этим фактором является фактор времени t. Кроме того, в качестве таких существенных факторов могут выступать лаговые значения переменных, включённых в модель.

Либо модель не учитывает несколько второстепенных факторов, совместное влияние которых на результат существенно в виду совпадения тенденций их изменения или фаз циклических колебаний.

Существует два наиболее распространённых метода определения автокорреляции остатков. Первый метод – это построение графика зависимости остатков от времени и визуальное определение наличия или отсутствия автокорреляции. Второй метод – использование критерия Дарбина – Уотсона.

Дж. Дарбин и Г. Уотсон построили таблицы, дающие нижние и верхние пределы порогов значимости. Эти таблицы достаточны для большинства конкретных ситуаций. Рассмотрим логические основания критерия .

Выражение

  (1.10.1)

представляет собой «отношение фон Неймана», применённое к остаткам оценки. Этот критерий имеет эффективность аналогичную таковой для критерия r1, первого коэффициента автокорреляции остатков. Из предыдущей главы известно, что этот критерий будет особенно мощным, если ошибки следуют авторегрессинному процессу первого порядка. Таким образом, он, по-видимому, хорошо приспособлен для экономических моделей.

Значение d в выборке зависит одновременно от последовательности zt и от значений et( для t = 1,2, . . . ,N). Однако Дарбин и Уотсон показали, что для заданных значений et значение d обязательно заключено между двумя границами d U и d L , не зависящими от значений, принимаемых zt , и являющимися функциями лишь чисел N , именно d L £ d £ d U.

Для некоторых значений последовательности zt границы d U и d L могут достигаться. Интервал [d L ,d U ] является, следовательно, наименьшим из возможных, если не принимать во внимание точные значения zt.

Границы d U и d L представляют случайные величины, распределение которых можно определить с помощью точных гипотез относительно распределения et.

Для практического использования таблицы полученное значение d* следует сравнить с d1 и d2.

а) Если d* < d1, то вероятность столь малого значения наверняка меньше a. Гипотеза независимости отбрасывается.

б) Если d* > d2, то вероятность столь малого значения наверняка больше a. Гипотеза независимости не отбрасывается.

в) Если d 1 £ d* £ d 2 , то приведённые таблицы оставляют вопрос открытым. Возможно, что гипотезу независимости при уровне значимости a следует отбросить. Однако этого нельзя узнать без изучения закона распределения вероятностей d для последовательности переменных zt . Практически в этом случае часто довольствуются указанием на то , что значение d* попадает в область неопределённости критерия.

В настоящее время принято приводить значение d* вместе с регрессиями для временных рядов и указывать на расположение этого значения относительно d 1 и d 2 .

Есть несколько существенных ограничений на применение критерия Дарбина – Уотсона.

Во-первых, он неприменим к моделям, включающим в качестве независимых переменных лаговые значения результативного признака, то есть к моделям авторегрессии. Для тестирования на автокорреляцию остатков моделей авторегрессии используется критерий h Дарбина.

Во-вторых, методика расчёта и использования критерия Дарбина - Уотсона направлена только на выявление автокорреляции остатков первого порядка. При проверке остатков на автокорреляцию более высоких порядков следует применять другие методы.

В-третьих, критерий Дарбина – Уотсона даёт достоверные результаты только для больших выборок.