Home

EigenValue Decomposition (EVD)

※ To facilitate visualization and understanding, the field in which vectors and matrices are defined is limited to real numbers. Original linear transformation $A$ Linear transformation $A$ decomposed into three steps using EVDEVD allows us to think of the original linear transformation as a sequence of three steps: 'rotate', 'stretch', and...

Read more

고윳값 분해(eigen-value decomposition)

※ 시각화와 이해의 편의를 도모하기 위해 벡터와 행렬이 정의되는 체(field)는 실수(real number)로 한정함. 원래의 선형변환 $A$ EVD를 이용해 세 개의 단계로 분해한 선형변환 $A$EVD는 기존의 선형변환을 '돌리기','늘리기','돌리기'의 세 과정으로 분해해서 생각할 수 있게 해준다. Prerequisites 해당 post를 잘 이해하기 위해선 아래의 내용에 대해 알고 오시는 것이 좋습니다. 행렬과 선형변환 고윳값과 고유벡터 배경 지식 행렬은 벡터들의 모음 $n$개의 $n$차원 벡터 $a_i\in \Bbb{R}^{n \times 1} \text{ for } i = 1...

Read more

Relationship of Four Fundamental Subspaces

※ To facilitate visualization and understanding, the field (in which vectors and matrices are defined) is limited to real numbers. Fundamental Matrix Subspaces / Introduction to Linear Algebra(Gilbert Strang, 1993) Prerequisites To understand this post, it is recommended that you have knowledge of the following topics: Basic ope...

Read more

4개 주요 부분 공간의 관계

※ 시각화와 이해의 편의를 도모하기 위해 벡터와 행렬이 정의되는 체(field)는 실수(real number)로 한정함. Fundamental Matrix Subspaces / Introduction to Linear Algebra(Gilbert Strang, 1993) Prerequisites 해당 post를 이해하기 위해선 다음의 내용에 대해 알고 오시는 것이 좋습니다. 벡터의 기본 연산 (상수배, 덧셈) 행렬 곱에 대한 또 다른 시각 행렬과 선형 변환 행렬은 선형변환이다 선형대수학과 관련해서 지금까지 다루어 왔던 많은 논의들은 “행렬은 선형변환이다“라는 내용을 기반으...

Read more

Geometric Meaning of Pseudo Inverse

※ The precise name for the pseudoinverse is the Moore-Penrose pseudoinverse, but we will use the commonly used name pseudoinverse in this post. ※ The pseudoinverse can be defined in the range of complex numbers, but in this post, we will explain it in the range of real numbers for visualization purposes and to prevent confusion in calculations....

Read more

의사역행렬의 기하학적 의미

※ 의사역행렬의 정확한 이름은 무어-펜로즈 유사역행렬인 것으로 보이나 일반적으로 많이 쓰는 이름인 의사역행렬(pseudo inverse)를 이용하도록 하겠습니다. ※ 의사역행렬은 복소수-체의 범위에서 정의가능하나 이번 post에서는 실수-체 범위에서 설명하도록 하겠습니다. (시각화 목적 및 계산의 헷갈림 방지) ※ 의사역행렬은 기본적으로 선형회귀의 선형대수학적 접근에서 본 내용과 완전히 같은 approach를 가지고 접근합니다. Prerequisites 해당 포스트를 이해하기 위해선 아래의 내용에 대해 알고 오시는 것을 추천드립니다. 행벡터의 의미와 벡터의 내적: 특히, 쌍대공간의 개념 특이값 분...

Read more

Linear Algebra and Fourier Transform

Prerequisites To understand this post, it is recommended that you are familiar with the following topics: Basic operations of vectors A new perspective on matrix multiplication Geometric meaning of Euler’s formula What is Fourier Transform? The Fourier transform is used when analyzing the frequency components of a signal. To give a ...

Read more

선형대수와 푸리에 변환

Prerequisites 해당 포스트에 대해 이해하기 위해선 아래의 내용에 대해 알고 오시는 것이 좋습니다. 벡터의 기본 연산 행렬 곱에 대한 새로운 시각 오일러 공식의 기하학적 의미 푸리에 변환이란? 푸리에 변환은 신호의 주파수 분석을 수행할 때 이용된다. 조금 쉽게 예를 들면 톤이 매우 낮은 남자와 톤이 높은 여자가 동시에 말을 한다고 생각해보자. 이 때 우리가 듣게 되는 소리는 낮은 음과 높은 음이 섞인 신호 일 것이다. 여기서 우리가 알고싶은 정보는 다음과 같다. 낮은 음과 높은 음의 주파수 값은 어떻게 될까? (즉, 얼마나 높고 낮은지를 수치화 하고싶다는 의미) 낮은 ...

Read more