Def
•
inner product space 의 nonempty subset 에 대하여, 의 orthogonal complement(직교 여공간)는 다음과 같이 정의한다.
◦
◦
란 의 벡터 중에 의 모든 벡터들과 orthogonal한 것을 모아 놓은 집합
•
Ex 9)
◦
일 때
▪
Thm 6.7
•
일 때
◦
•
Ex 11)
◦
에서
▪
이면
▪
▪
▪
•
Ex 12)
◦
(Null space of ) = row space of
▪
의 널공간은 의 모든 row와 수직인 것을 모아 놓은 것이 된다.
◦
(Null space of ) = column space of
▪
이것을 Left Null Space라고도 한다.
LU decomposition
•
정사각행렬 에 대하여
◦
만일 row exchange를 하지 않고 를 만들 수 있으면
◦
▪
는 lower triangular matrix
▪
는 upper triangular matrix
•
(예시 생략)
Least square solution (최소제곱해)
•
overdetermined problems의 least square solution
◦
의 꼴에서 를 구할 수 없을 때
▪
▪
위와 같은 경우 해가 없다. (Inconsistent system)
◦
이럴 때는 에 최대한 가깝게 를 조정한다.
▪
◦
이때 와 가장 가까워지는 는 (error vector - 와의 간격이 error값이 된다) 의 모든 벡터와 수직인 값이 된다. (거꾸로 말하면 의 모든 벡터와 수직이 되는 값을 찾으면 된다.)
▪
Orthogonality principle
•
앞서 살펴본 경우의 와 수직인 벡터를 찾는 방법
•
◦
◦
◦
•
가 full rank일 때
◦
◦
의 Moore Penrose pseudo-inverse는 가 된다.
•
의 column space로 향하는 의 Projection
◦
•
Projection matrix
◦
◦
▪
는 Projection 되었기 때문에 제곱해도 변하지 않는다.
Ex. Measurements
•
다음과 같이 점이 주어졌을 때
◦
◦
◦
•
가 되는 line을 찾으려고 한다. (error를 최소화하는 직선을 찾는 문제. 제곱은 결국 거리기 때문에 거리를 최소화한다는 의미에서 최소제곱을 찾는 문제이다)
◦
◦
◦
◦
◦
◦
◦
Unitary matrix
•
Unitary matrix란 Rows도 orthonormal이고 Columns도 orthonormal한 matrix를 말한다.
◦
◦
Matrix in random processes
•
Random vectors의 Second-Moment Descriptions
◦
Random vector
•
Mean vector
◦
•
Correlation matrix
◦
◦
◦
◦
