Week 3 : Low operation and Linear Combination

Solve Inverse matrix as soon as possible

inverse matrix를 0.01초라도 빨리 풀게 된다면, 시스템의 solution을 빨리 구할 수 있기 때문에 

예를 들어, 주식 시장을 예측한다와 같이 돈이 되는 일들에 대해서 inverse matrix를 얼마나 빨리 푸는 알고리즘을 개발을 하느냐가 아주 큰 관건이다.----> 응용수학과에서 많이 하는 연구!

 

Consistent Vs Inconsistent

- Determinant = 0 ---> Inconsistent System --> No solution or infinite solutions

- Determinant ≠ 0 ---> Consistent System --> Unique solution

특히 Upper Triangular Matrix에서는 Determinant를 구하기 쉽다.

--> 대각선에 있는 element들을 다 곱하면 된다!

 

* 실제 물리 현상, 안구 simulation, 귀 simulation, 딥러닝.. --> 간단한 식은 아니지만 원리는 system of linear algebraic equation과 비슷!

 

*  General Solution vs Trivial Solution

- Trivial Solution은 General Solution 중 하나

- 예를 들어, x=s, y=4-2s, z=s라 할 때

- (s, 4-2s, s) : General Solution

- if, s=0; (0, 4, 0) : Trivial Solution

 

A homogeneous system of linear algebraic equation is one of the form(Special)

- AX = B 라는 게 Systems of linear algebraic equation의 일반 형태라고 하면, A homogeneous system of linear algebraic equation(B=0인 형태)은 eigenvalue를 공부할때 중요한 형태이다!

- homogeneous : '같다', 무엇이 같냐 : 우변이 다 'zero'로 같다!

 

A homogeneous system AX=0 is always consistent.

- (x1, x2, ... , xN) = (0, 0, ... , 0) : Trivial Solution

- (x1, x2, ... , xN) = (0, 0, ... , 0) is a solution, no matter what A is.

- 위와 같이 항상 solution이 있기 때문에 항상 Consistent이다!(다만 해가 무수히 많은지 unique한지는 따져봐야함)

- A | 0 ---> U(Upper triangular matrix) | 0 : 해를 구하기 위해  AX=0을 UX=0으로 변환을 했을 때 우변도 그대로 0이 되고, 따라서 변환 후에도 homogeneous system이 된다!

- Depending on what A is, the homogeneous system AX=0 has either only one (unique) solution given by X=0 or infinitely many solutions (one of which is X=0)

- infinitely many solutions (one of which is X=0)인 경우가 훨씬 많다!

 

Vector Space

- Definition : An N-th dimensional vector is a well-ordered set of N real numbers written in the form (x1, x2, ... , xN)

 

The set of all N-th dimensional vectors forms a vector space denoted by R^N

- For example, R^3 is the set of all three-dimensional vectors and (-1, 0, 2) is a member of R^3, that is, we write

(-1, 0, 2) ∈ R^3

 

- We can think of solutions of a linear algebraic equation in N unknowns as vectors in R^N.

 

Linear combination of vectors

- Let u and v1 , v2 , …, vK−1 and vK be vectors in R^N

- We say that u is a linear combination of v1 , v2 , …, vK−1 and vK if we can find real numbers a1 , a2 , …, aK−1 and aK such that u = a1 v1 + a2 v2 + … +aK−1 vK−1 + aK vK