Home

QR 분해

※ 시각화와 이해의 편의를 도모하기 위해 벡터와 행렬이 정의되는 체(field)는 실수(real number)로 한정함. Prerequisites 본 post를 잘 이해하기 위해서는 아래의 내용에 대해 알고 오시는 것을 추천드립니다. 벡터의 정사영 배경 지식 벡터의 정사영 우리는 중고등학교 수학에서 벡터의 정사영에 대해 배운 적이 있다. 정사영의 개념이 성립하기 위해선 두 개의 벡터가 필요하다. 아래의 그림에서는 벡터 $a$와 벡터 $b$ 사이의 관계에 대해 표현하고 있다. 그림 1. 두 벡터 중 하나의 벡터에 대해, 또 다른 벡터로 향하는 방향으로의 컴포넌트는 코사인 값을 ...

Read more

EigenValue Decomposition (EVD)

※ To facilitate visualization and understanding, the field in which vectors and matrices are defined is limited to real numbers. Original linear transformation $A$ Linear transformation $A$ decomposed into three steps using EVDEVD allows us to think of the original linear transformation as a sequence of three steps: 'rotate', 'stretch', and...

Read more

고윳값 분해(eigen-value decomposition)

※ 시각화와 이해의 편의를 도모하기 위해 벡터와 행렬이 정의되는 체(field)는 실수(real number)로 한정함. 원래의 선형변환 $A$ EVD를 이용해 세 개의 단계로 분해한 선형변환 $A$EVD는 기존의 선형변환을 '돌리기','늘리기','돌리기'의 세 과정으로 분해해서 생각할 수 있게 해준다. Prerequisites 해당 post를 잘 이해하기 위해선 아래의 내용에 대해 알고 오시는 것이 좋습니다. 행렬과 선형변환 고윳값과 고유벡터 배경 지식 행렬은 벡터들의 모음 $n$개의 $n$차원 벡터 $a_i\in \Bbb{R}^{n \times 1} \text{ for } i = 1...

Read more

Relationship of Four Fundamental Subspaces

※ To facilitate visualization and understanding, the field (in which vectors and matrices are defined) is limited to real numbers. Fundamental Matrix Subspaces / Introduction to Linear Algebra(Gilbert Strang, 1993) Prerequisites To understand this post, it is recommended that you have knowledge of the following topics: Basic ope...

Read more

4개 주요 부분 공간의 관계

※ 시각화와 이해의 편의를 도모하기 위해 벡터와 행렬이 정의되는 체(field)는 실수(real number)로 한정함. Fundamental Matrix Subspaces / Introduction to Linear Algebra(Gilbert Strang, 1993) Prerequisites 해당 post를 이해하기 위해선 다음의 내용에 대해 알고 오시는 것이 좋습니다. 벡터의 기본 연산 (상수배, 덧셈) 행렬 곱에 대한 또 다른 시각 행렬과 선형 변환 행렬은 선형변환이다 선형대수학과 관련해서 지금까지 다루어 왔던 많은 논의들은 “행렬은 선형변환이다“라는 내용을 기반으...

Read more

Geometric Meaning of Pseudo Inverse

※ The precise name for the pseudoinverse is the Moore-Penrose pseudoinverse, but we will use the commonly used name pseudoinverse in this post. ※ The pseudoinverse can be defined in the range of complex numbers, but in this post, we will explain it in the range of real numbers for visualization purposes and to prevent confusion in calculations....

Read more

의사역행렬의 기하학적 의미

※ 의사역행렬의 정확한 이름은 무어-펜로즈 유사역행렬인 것으로 보이나 일반적으로 많이 쓰는 이름인 의사역행렬(pseudo inverse)를 이용하도록 하겠습니다. ※ 의사역행렬은 복소수-체의 범위에서 정의가능하나 이번 post에서는 실수-체 범위에서 설명하도록 하겠습니다. (시각화 목적 및 계산의 헷갈림 방지) ※ 의사역행렬은 기본적으로 선형회귀의 선형대수학적 접근에서 본 내용과 완전히 같은 approach를 가지고 접근합니다. Prerequisites 해당 포스트를 이해하기 위해선 아래의 내용에 대해 알고 오시는 것을 추천드립니다. 행벡터의 의미와 벡터의 내적: 특히, 쌍대공간의 개념 특이값 분...

Read more

Linear Algebra and Fourier Transform

Prerequisites To understand this post, it is recommended that you are familiar with the following topics: Basic operations of vectors A new perspective on matrix multiplication Geometric meaning of Euler’s formula What is Fourier Transform? The Fourier transform is used when analyzing the frequency components of a signal. To give a ...

Read more