Дополнительно о собственных значениях и собственных векторах

Линейная алгебра для науки о данных на R

Eric Eager

Data Scientist at Pro Football Focus

Что происходит?

Если собственные значения $\lambda_1, \lambda_2, ..., \lambda_n$ матрицы $A$ различны, а $\vec{v}_1, \vec{v}_2, ..., \vec{v}_n$ — соответствующие собственные векторы, то эти векторы образуют базис пространства $n$-мерных векторов.
Иными словами, если матрица $A$ имеет базис из собственных векторов $\vec{v}_1, \vec{v}_2, ... \vec{v}_n$ с различными собственными значениями $\lambda_1, \lambda_2, ... \lambda_n$, то любой $n$-мерный вектор можно представить как их линейную комбинацию: $$\vec{x} = c_1\vec{v}_1 + c_2\vec{v}_2 + ... + c_n\vec{v}_n.$$

Что происходит?

Применив матрицу $A$ к вектору $\vec{x}$ и воспользовавшись тем, что $A\vec{v}_j = \lambda_j \vec{v}_j,$ получим следующее разложение:

$$A\vec{x} = c_1\lambda_1\vec{v}_1 + c_2\lambda_2\vec{v}_2 + ... + c_n\lambda_n\vec{v}_n.$$

Таким образом, собственные пары сводят матричное умножение к линейной комбинации скалярных умножений!

Итерирование матрицы

При последовательном умножении на матрицу $A$:

$$A A\vec{x} = $$ $$ = A(c_1\lambda_1\vec{v}_1 + c_2\lambda_2\vec{v}_2 + ... + c_n\lambda_n\vec{v}_n)$$ $$ = c_1\lambda_1^2\vec{v}_1 + c_2\lambda_2^2\vec{v}_2 + ... + c_n\lambda_n^2\vec{v}_n,$$

или в общем виде: $$A^t\vec{x} = c_1\lambda_1^t\vec{v}_1 + c_2\lambda_2^t\vec{v}_2 + ... + c_n\lambda_n^t\vec{v}_n.$$

Таким образом, последовательное умножение на матрицу — это не последовательное скалярное умножение (возведение в степень)!

Кроме того, если одно из собственных значений больше остальных, это различие будет нарастать по мере роста $t$.

Пример с частотами аллелей

print(M)

eigen(M)

      [,1]  [,2]  [,3]  [,4]
[1,] 0.980 0.005 0.005 0.010
[2,] 0.005 0.980 0.010 0.005
[3,] 0.005 0.010 0.980 0.005
[4,] 0.010 0.005 0.005 0.980

eigen() decomposition
$`values`
[1] 1.00 0.98 0.97 0.97

$vectors
     [,1] [,2]          [,3]          [,4]
[1,] -0.5  0.5  0.000000e+00  7.071068e-01
[2,] -0.5 -0.5 -7.071068e-01  1.132427e-14
[3,] -0.5 -0.5  7.071068e-01 -2.442491e-15
[4,] -0.5  0.5 -1.382228e-14 -7.071068e-01

print(M)

      [,1]  [,2]  [,3]  [,4]
[1,] 0.980 0.005 0.005 0.010
[2,] 0.005 0.980 0.010 0.005
[3,] 0.005 0.010 0.980 0.005
[4,] 0.010 0.005 0.005 0.980

Lambda <- eigen(M)
v1 <- Lambda$vectors[, 1]/sum(Lambda$vectors[, 1])
print(v1)

0.25 0.25 0.25 0.25

Давайте потренируемся!

Линейная алгебра для науки о данных на R