Search
Duplicate

수학/ 벡터 공간, 벡터, 행렬, 텐서의 정의

벡터의 개념은 수학과 물리학, 머신러닝에서 조금씩 다른데, 수학의 벡터가 더 일반화된 개념이므로 수학의 백터 개념으로 다른 것을 이해하는 것이 편리하다.
선형 대수에서 중심에 있는 개념은 벡터(vector)와 벡터 공간(vector space)이라고도 불리는 벡터 집합이고 이것에 대한 선형 변환(linear transformation) —행렬—, 다중 선형 변형(multi linear transformation) —텐서—을 다루는 것이 선형 대수라 할 수 있다.
벡터(와 행렬, 텐서)는 연립 방정식에 대한 표현으로도 생각할 수 있는데, 벡터에 대한 선형 변환은 결국 연립 방정식의 해를 구하는 것으로 생각할 수 있다. x+y=1x + y = 1를 만족하는 해는 무수히 많고, x−y=1x - y = 1을 만족하는 해도 무수히 많지만, 그 둘이 연립되었을 때 이것을 동시에 만족하는 해는 유일하다. 벡터는 이렇게 방정식이 연립 되었을 때 그 해를 구하기 위한 접근 방법이라고 볼 수 있다. 벡터의 연산 —투영(projection), 내적(inner proudct), 노름(norm) 등— 은 바로 이 연립 방정식을 풀기 위한 —혹은 근사(approximation)을 구하기 위한— 방법들인 것이다.
이 문서를 포함하여 이하 선형대수 페이지에서 스칼라는 소문자, 벡터는 소문자 굵은 글자, 행렬은 대문자 굵은 글자 표기를 따른다.

벡터 공간(vector space)

체 FF에서 벡터공간(vector space) 또는 선형공간(linear space) VV는 다음의 8가지 조건을 만족하는 두 연산, 합과 스칼라 곱을 가지는 집합이다.—순서적으로 벡터 공간이 먼저 정의되고, 벡터는 그 벡터 공간의 원소로 정의된다. 합(sum)은 VV의 두 원소 x,y\bold{x, y}에 대하여 유일한 원소 x+y∈V\bold{x + y} \in V를 대응하는 연산이다. 스칼라 곱(scalar multiplication)은 체 FF의 원소 aa와 벡터공간 VV의 원소 x\bold{x}마다 유일한 원소 ax∈Va\bold{x} \in V를 대응하는 연산이다.
1.
모든 x,y∈V\bold{x, y} \in V에 대하여 x+y=y+x\bold{x + y = y + x}이다. (덧셈의 교환법칙)
2.
모든 x,y,z∈V\bold{x, y, z} \in V에 대하여 (x+y)+z=x+(y+z)\bold{(x + y) + z = x + (y + z)}이다. (덧셈의 결합법칙)
3.
모든 x∈V\bold{x} \in V에 대하여 x+0=x\bold{x + 0 = x}인 0∈V\bold{0} \in V이 존재한다.
4.
각 x∈V\bold{x} \in V마다 x+y=0\bold{x + y = 0}인 y∈V\bold{y} \in V가 존재한다.
5.
각 x∈V\bold{x} \in V에 대하여 1x=x1\bold{x} = \bold{x}이다.
6.
모든 a,b∈Fa, b \in F와 모든 x∈V\bold{x} \in V에 대하여 (ab)x=a(bx)(ab)\bold{x} = a(b\bold{x})이다.
7.
모든 a∈Fa \in F와 모든 x,y∈V\bold{x, y} \in V에 대하여 a(x+y)=ax+aya(\bold{x + y}) = a\bold{x} + a\bold{y}이다.
8.
모든 a,b∈Fa, b \in F와 모든 x∈V\bold{x} \in V에 대하여 (a+b)x=ax+bx(a + b) \bold{x} = a\bold{x} + b\bold{x}이다.
이 연산을 보면 벡터의 합과 스칼라 곱에 대해서만 정의가 되는데, —벡터 간의 곱은 부분 공간에 존재함— 이것 때문에 행렬과 텐서도 결국 벡터 공간의 원소가 된다.
벡터공간은 정확하게 ‘FF-벡터공간 VV’라 표기해야 하지만, 혼란의 여지가 없으면 체 FF를 생략하고 ‘벡터공간 VV’라 적는다. F=RF = \mathbb{R}이면 실수 벡터공간, F=CF = \mathbb{C}이면 복소수 벡터공간이 된다.
모든 벡터공간 VV에 대해 다음의 성립한다.
1.
모든 x\bold{x}에 대해 0x=00\bold{x} = \bold{0}
2.
모든 스칼라 aa와 모든 벡터 x\bold{x}에 대해 (−a)x=−(ax)=a(−x)(-a)\bold{x} = -(a\bold{x}) = a(-\bold{x})
3.
모든 스칼라 aa에 대해 a0=0a\bold{0} = \bold{0}
사실 공간(space)는 기하학적인 관점이 들어간 개념이고, 그냥 벡터 집합(vector set)이라고 생각하는 것이 더 간편할 수 있다. 집합이라는 개념으로 생각하면 선형 변환(linear transformation)도 집합을 다른 집합으로 바꾸는 함수라고 더 간편하게 생각할 수 있다.

벡터(vector)

수학적으로 벡터는 벡터 공간의 한 원소이다. 이를 벡터 공간 상의 한 점(point)으로 보아도 무방하다. 이 개념을 받아들이면 행렬(matrix)는 벡터의 선형 변환이라는 개념을 보다 자연스럽게 받아들일 수 있다. 선형대수에서 다루는 행렬이나 고차원 텐서 연산은 결국 벡터를 다루는 연산으로 분해가능하다.
벡터에 대한 좀 더 간편한 정의는 스칼라의 배열이다.
벡터는 여러 표기로 작성할 수 있지만, 머신러닝에서는 스칼라의 배열(array 또는 list)로 표현되므로, 벡터의 항목을 세로로 나열하는 열벡터를 기본으로 사용하고, 행벡터를 쓸 때는 열벡터를 전치하여 사용한다.
x=[x1x2⋮xn],x⊤=[x1x2...xn]\bold{x} = \left[ \begin{matrix} x_1 \\ x_2 \\ \vdots \\ x_n \end{matrix} \right], \bold{x}^\top = \left[ \begin{matrix} x_1 & x_2 & ... & x_n \end{matrix} \right]

행렬(Matrix)

수학적으로 행렬은 벡터 공간의 기저에 대한 선형 변환(linear transformation) —선형 사상(linear map)이라고도 한다— 으로 정의된다. 이 정의를 이해하면 행렬의 고유값이나 고유벡터가 선형변환으로부터 유지되는 값들이라는 것을 자연스럽게 이해할 수 있다.
행렬에 대한 좀 더 간편한 정의는 행렬을 벡터의 배열 —열 벡터를 수평으로 쌓거나, 행 벡터를 수직으로 쌓은—로 보는 것이다
벡터 공간의 조건을 만족하기 때문에 행렬 또한 벡터 공간의 원소이다.
mm 행과 nn 열의 행렬 A∈Rm×n\bold{A} \in \mathbb{R}^{m \times n}는 숫자들의 2차원이고 다음처럼 표기한다.
A=[a11a12…a1na21a22…a2n⋮⋮⋱⋮am1am2…amn]\bold{A} = \left[ \begin{matrix} a_{11} & a_{12} & \dots & a_{1n} \\ a_{21} & a_{22} & \dots & a_{2n} \\ \vdots & \vdots & \ddots & \vdots \\ a_{m1} & a_{m2} & \dots & a_{mn} \end{matrix} \right]
만일 행과 열의 수가 같은 경우 (m=nm = n인 경우) A\bold{A}를 정사각 행렬이라고 한다.
행렬의 행과 열을 뒤집은 것을 전치(transpose)라고 하며 행렬 A∈Rm×n\bold{A} \in \mathbb{R}^{m \times n}를 전치하면 A⊤∈Rn×m\bold{A}^\top \in \mathbb{R}^{n \times m}로 표기한다.
만일 정사각 행렬이 A=A⊤\bold{A} = \bold{A}^\top를 만족하는 경우 대칭(symmetric) 행렬이라고 한다.

텐서(Tensor)

행렬이 벡터 공간의 기저에 대한 선형 변환으로 정의되는 것처럼 텐서도 다중 선형 변환(multi-linear transformation) —다중 선형 사상(multi-linear map)이라고도 한다— 으로 정의할 수 있다.
텐서에 대한 보다 간편한 정의는 데이터 구조를 일반화한 것으로 보는 것이다. 벡터를 스칼라를 1차원으로 나열한 것이라고 생각 할 수 있고, 행렬은 스칼라를 2차원 —혹은 벡터를 1차원으로— 나열한 것이라 생각할 수 있는데, 그러면 자연스럽게 3차원이나 그 이상으로 나열한 것도 생각해 볼 수 있는데, 바로 이러한 데이터의 배열 구조를 일반화한 것이 텐서가 된다. 이러한 정의에 따르면 0차 텐서는 스칼라, 1차 텐서는 벡터, 2차 텐서는 행렬이 되며, 3차 이상의 텐서도 확장할 수 있다.

참조

•
Made with