[선형대수학] - 직교성 (Orthogonality)

코시-슈바르츠 부등식 (Cauchy-Schwarz Inequality)

$\mathbf{\text{x}},\mathbf{\text{y}}\in {\mathbb{R}}^n$에 대해 다음이 성립한다.

$|\mathbf{\text{x}}\cdot \mathbf{\text{y}}|\le ||\mathbf{\text{x}}||||\mathbf{\text{y}}||$

증명:

1. $\mathbf{\text{x}}$와 $\mathbf{\text{y}}$가 이루는 각도를 $\theta$라고 하면, $\mathbf{\text{x}}\cdot \mathbf{\text{y}}=||\mathbf{\text{x}}||||\mathbf{\text{y}}||\cos \theta$이다.
2. $|\cos \theta |\le 1$이므로 $|\mathbf{\text{x}}\cdot \mathbf{\text{y}}|\le ||\mathbf{\text{x}}||||\mathbf{\text{y}}||$이다.

 

삼각 부등식 (Triangle Inequality)

$\mathbf{\text{x}},\mathbf{\text{y}}\in {\mathbb{R}}^n$에 대해 다음이 성립한다.

$||\mathbf{\text{x}}+\mathbf{\text{y}}||\le ||\mathbf{\text{x}}||+||\mathbf{\text{y}}||$

증명:

1. $(||\mathbf{\text{x}}+\mathbf{\text{y}}||{)}^2=(\mathbf{\text{x}}+\mathbf{\text{y}})\cdot (\mathbf{\text{x}}+\mathbf{\text{y}})=||\mathbf{\text{x}}|{|}^2+||\mathbf{\text{y}}|{|}^2+2\mathbf{\text{x}}\cdot \mathbf{\text{y}}(\because ||\mathbf{\text{x}}||=\sqrt{\mathbf{\text{x}}\cdot \mathbf{\text{x}}})$.
2. $||\mathbf{\text{x}}|{|}^2+||\mathbf{\text{y}}|{|}^2+2\mathbf{\text{x}}\cdot \mathbf{\text{y}}\le ||\mathbf{\text{x}}|{|}^2+||\mathbf{\text{y}}|{|}^2+2|\mathbf{\text{x}}\cdot \mathbf{\text{y}}|\le ||\mathbf{\text{x}}|{|}^2+||\mathbf{\text{y}}|{|}^2+2||\mathbf{\text{x}}||||\mathbf{\text{y}}||$.
3. 따라서 $(||\mathbf{\text{x}}+\mathbf{\text{y}}||{)}^2\le (||\mathbf{\text{x}}||+||\mathbf{\text{y}}||{)}^2$이며, $||\mathbf{\text{x}}+\mathbf{\text{y}}||\le ||\mathbf{\text{x}}||+||\mathbf{\text{y}}||$이다.

 

삼각 부등식의 다른 형태

$\mathbf{\text{x}},\mathbf{\text{y}},\mathbf{\text{z}}\in {\mathbb{R}}^n$에 대해 다음이 성립한다.

$d(\mathbf{\text{x}},\mathbf{\text{y}})\le d(\mathbf{\text{x}},\mathbf{\text{z}})+d(\mathbf{\text{z}},\mathbf{\text{y}})$

증명:

1. $||\mathbf{\text{x}}-\mathbf{\text{y}}||=||\mathbf{\text{x}}-\mathbf{\text{z}}+\mathbf{\text{z}}-\mathbf{\text{y}}||\le ||\mathbf{\text{x}}-\mathbf{\text{z}}||+||\mathbf{\text{z}}-\mathbf{\text{y}}||$.

 

직교성 (Orthogonality)

$\mathbf{\text{x}},\mathbf{\text{y}}\in {\mathbb{R}}^n$에 대하여 다음을 만족하면 $\mathbf{\text{x}}$와 $\mathbf{\text{y}}$는 직교한다.

$\mathbf{\text{x}}\cdot \mathbf{\text{y}}=0$

더욱 일반화하여 ${\mathbb{R}}^n$의 부분 집합 $\{{\mathbf{\text{x}}}_1,{\mathbf{\text{x}}}_2,...,{\mathbf{\text{x}}}_k\}$가 아래를 만족하면 $\{{\mathbf{\text{x}}}_1,{\mathbf{\text{x}}}_2,...,{\mathbf{\text{x}}}_k\}$는 직교한다고 정의한다.

${\mathbf{\text{x}}}_i\cdot {\mathbf{\text{x}}}_j=0,\mathrm{\forall }i,j\in \{1,2,...,k\},i\ne j,{\mathbf{\text{x}}}_i\ne \mathbf{\text{0}},{\mathbf{\text{x}}}_j\ne \mathbf{\text{0}}$.

 

정규직교 (Orthonormal)

$\{{\mathbf{\text{x}}}_1,{\mathbf{\text{x}}}_2,...,{\mathbf{\text{x}}}_k\}$가 아래의 두 조건으 만족하면 정규직교한다고 한다.

• $\{{\mathbf{\text{x}}}_1,{\mathbf{\text{x}}}_2,...,{\mathbf{\text{x}}}_k\}$가 직교
• $||{\mathbf{\text{x}}}_i||=1,\mathrm{\forall }i=\{1,2,...,k\}$

 

직교하는 집합에 대한 스칼라 곱

${\mathbb{R}}^n$의 집합 $\{{\mathbf{\text{x}}}_1,{\mathbf{\text{x}}}_2,...,{\mathbf{\text{x}}}_k\}$가 직교하면, 모든 ${\alpha }_i\in \mathbb{R}$에 대해 $\{{\alpha }_1{\mathbf{\text{x}}}_1,{\alpha }_2{\mathbf{\text{x}}}_2,...,{\alpha }_k{\mathbf{\text{x}}}_k\}$도 직교한다.

증명:

1. $\mathrm{\forall }i,j\in \{1,2,...,k\},i\ne j,{\mathbf{\text{x}}}_i\ne \mathbf{\text{0}},{\mathbf{\text{x}}}_j\ne \mathbf{\text{0}}$에 대해 ${\alpha }_i{\mathbf{\text{x}}}_i\cdot {\alpha }_j{\mathbf{\text{x}}}_j=0$임을 보인다.
2. $\{{\mathbf{\text{x}}}_1,{\mathbf{\text{x}}}_2,...,{\mathbf{\text{x}}}_k\}$가 직교하므로, ${\alpha }_i{\mathbf{\text{x}}}_i\cdot {\alpha }_j{\mathbf{\text{x}}}_j={\alpha }_i{\alpha }_j({\mathbf{\text{x}}}_i\cdot {\mathbf{\text{x}}}_j)=0$이다.

 

선형대수학 관점에서의 피타고라스 정리

${\mathbb{R}}^n$의 집합 $\{{\mathbf{\text{x}}}_1,{\mathbf{\text{x}}}_2,...,{\mathbf{\text{x}}}_k\}$가 직교하면, 아래가 성립한다.

$||{\mathbf{\text{x}}}_1+{\mathbf{\text{x}}}_2+\cdots +{\mathbf{\text{x}}}_k|{|}^2=||{\mathbf{\text{x}}}_1|{|}^2+||{\mathbf{\text{x}}}_2|{|}^{+}\cdots +||{\mathbf{\text{x}}}_k|{|}^2$

 

직교성과 선형 독립

${\mathbb{R}}^n$의 집합 $\{{\mathbf{\text{x}}}_1,{\mathbf{\text{x}}}_2,...,{\mathbf{\text{x}}}_k\}$가 직교하면 $\{{\mathbf{\text{x}}}_1,{\mathbf{\text{x}}}_2,...,{\mathbf{\text{x}}}_k\}$는 선형 독립이다.

증명:

1. $\{{\mathbf{\text{x}}}_1,{\mathbf{\text{x}}}_2,...,{\mathbf{\text{x}}}_k\}$가 직교하면, ${\alpha }_1{\mathbf{\text{x}}}_1+{\alpha }_2{\mathbf{\text{x}}}_2+\cdots +{\alpha }_k{\mathbf{\text{x}}}_k=\mathbf{\text{0}}\Rightarrow {\alpha }_1={\alpha }_2=\cdots ={\alpha }_k=0$임을 보인다.
2. $({\alpha }_1{\mathbf{\text{x}}}_1+{\alpha }_2{\mathbf{\text{x}}}_2+\cdots +{\alpha }_k{\mathbf{\text{x}}}_k)\cdot ({\alpha }_1{\mathbf{\text{x}}}_1+{\alpha }_2{\mathbf{\text{x}}}_2+\cdots +{\alpha }_k{\mathbf{\text{x}}}_k)=0$.
3. $\{{\mathbf{\text{x}}}_1,{\mathbf{\text{x}}}_2,...,{\mathbf{\text{x}}}_k\}$가 직교하므로, ${\alpha }_1^2||{\mathbf{\text{x}}}_1|{|}^2+{\alpha }_2^2||{\mathbf{\text{x}}}_2|{|}^2+\cdots +{\alpha }_k^2||{\mathbf{\text{x}}}_k|{|}^2=0$.
4. $\mathrm{\forall }i\in \{1,2,...,k\},||{\mathbf{\text{x}}}_i|{|}^2\ge 0$이므로, ${\alpha }_1={\alpha }_2=\cdots ={\alpha }_k=0$이다.
5. 따라서, ${\alpha }_1{\mathbf{\text{x}}}_1+{\alpha }_2{\mathbf{\text{x}}}_2+\cdots +{\alpha }_k{\mathbf{\text{x}}}_k=\mathbf{\text{0}}\Rightarrow {\alpha }_1={\alpha }_2=\cdots ={\alpha }_k=0$이다.

그러나 선형 독립이 직교성을 말하지는 않는다.

증명:

• $\mathbf{\text{x}}=[1,0{]}^T,\mathbf{\text{y}}=[1,1{]}^T$.
• $a\mathbf{\text{x}}+b\mathbf{\text{y}}=\mathbf{\text{0}}\Rightarrow a=b=0$이 성립하지만, $\mathbf{\text{x}}\cdot \mathbf{\text{y}}\ne 0$이므로 $\mathbf{\text{x}}$와 $\mathbf{\text{y}}$는 직교하지 않는다.

 

직교 기저와 선형 결합

$U\subseteq {\mathbb{R}}^n$에 대해 $\{{\mathbf{\text{f}}}_1,{\mathbf{\text{f}}}_2,...,{\mathbf{\text{f}}}_k\}$를 $U$의 직교 기저 (orthogonal basis)라고 하면, $\mathbf{\text{x}}\in U$는 아래의 선형 결합으로 표현될 수 있다.

$\mathbf{\text{x}}=\left(\frac{\mathbf{\text{x}}\cdot {\mathbf{\text{f}}}_1}{||{\mathbf{\text{f}}}_1||}\right){\mathbf{\text{f}}}_1+\left(\frac{\mathbf{\text{x}}\cdot {\mathbf{\text{f}}}_2}{||{\mathbf{\text{f}}}_2||}\right){\mathbf{\text{f}}}_2+\cdots +\left(\frac{\mathbf{\text{x}}\cdot {\mathbf{\text{f}}}_k}{||{\mathbf{\text{f}}}_k||}\right){\mathbf{\text{f}}}_k$

증명:

1. $U=span\{{\mathbf{\text{f}}}_1,{\mathbf{\text{f}}}_2,...,{\mathbf{\text{f}}}_k\}$ 이므로, ${\alpha }_i\in \mathbb{R}$에 대해 $\mathbf{\text{x}}={\alpha }_1{\mathbf{\text{f}}}_1+{\alpha }_2{\mathbf{\text{f}}}_2+\cdots +{\alpha }_k{\mathbf{\text{f}}}_k$.
2. $\{{\mathbf{\text{f}}}_1,{\mathbf{\text{f}}}_2,...,{\mathbf{\text{f}}}_k\}$는 직교하므로, 양변에 ${\mathbf{\text{f}}}_i$를 내적하면 $\mathbf{\text{x}}\cdot {\mathbf{\text{f}}}_i={\alpha }_i{\mathbf{\text{f}}}_i\cdot {\mathbf{\text{f}}}_i(\because {\mathbf{\text{f}}}_i\cdot {\mathbf{\text{f}}}_j=0)$.
3. 따라서, ${\alpha }_i=\frac{\mathbf{\text{x}}\cdot {\mathbf{\text{f}}}_i}{||{\mathbf{\text{f}}}_i|{|}^2}$.