Home

Layer-wise Relevance Propagation

Deep Nerual Network Transparency 뉴럴네트워크는 전통적으로 “Blackbox” 모델로 생각되어 왔다. 필자 생각에는 그 이유는 크게 두 가지로 보인다. 우선은 뉴럴네트워크가 본래부터 비선형 회귀모델이다보니 입력과 출력간의 관계가 선형적이지 못해 입력이 출력에 어떻게 영향을 주는지 직접적으로 알기 어렵기 때문이다. 또, 최근 들어 딥러닝 기술이 발전하면서 부터는 모델이 스스로 복잡도가 높은 feature에서 분류/회귀에 필요한 feature를 잘 선택할 수 있게되었기 때문에 개발자가 직접 feature를 생성하지 않아도 되었기 때문이다. 이러한 상황속에서 뉴럴네트워크의 성능은 나날이 좋아...

Read more

Z-Transform

What Z-Transform is saying: I want to represent the characteristics of a discrete signal (or system) in the Z-plane at once. Try moving the red marker with your mouse Definition and Derivation of Z-Transform DEFINITION 1. Z-Transform The transformation of a discrete signal $x[n]$ is called Z-Transform a...

Read more

Z 변환

Z-변환이 말하는 것: 이산 신호(정확히는 시스템)의 특성을 Z-plane에 한번에 표현해보고 싶다. 빨간색 마커를 마우스로 움직여 보세요 ^^ Z-변환의 정의 및 유도 과정 DEFINITION 1. Z-변환 이산신호 $x[n]$에 대하여 아래와 같은 변환을 Z-변환이라 한다.$$Z\left[x[n]\right] = \sum_{n=-\infty}^{\infty}x[n]z^{-n}$$ 여기서 $z$ 는 복소수 Z-변환은 좁게는 선형 차분 방정식(Linear Difference Equation)을 쉽게 풀 수 있게 만들어 주...

Read more

Laplace Transform

Relationship between the location of poles and basis function $\exp(\sigma t)$ Source: MIT Mathlets, https://mathlets.org/mathlets/poles-and-vibrations/ Relationship between pole diagram and frequency response Source: MIT Mathlets, https://mathlets.org/mathlets/amplitude-response-pole-diagram/ Prerequisites To bette...

Read more

라플라스 변환(Laplace transform)

pole의 위치와 기저 함수 $\exp(\sigma t)$의 관계 출처: MIT Mathlets, https://mathlets.org/mathlets/poles-and-vibrations/ pole diagram과 주파수 응답의 관계 출처: MIT Mathlets, https://mathlets.org/mathlets/amplitude-response-pole-diagram/ Prerequisites 이번 포스팅을 더 잘 이해하기 위해서는 아래의 내용에 대해 알고 오시는 것이 좋습니다. 신호 공간(signal space) 푸리에 급수(Fourier ...

Read more

Hilbert Transform

Reasons for the Need of Hilbert Transform To explain the reasons for the need of Hilbert transform, it is important to understand the role of Hilbert transform and the results that can be obtained by performing the role. Firstly, the role of Hilbert transform is to act as a kind of linear filter that maintains the amplitude of a signal while sh...

Read more

힐버트 변환

힐버트 변환이 필요한 이유 힐버트 변환이 필요한 이유에 대해 설명하기 위해서는 힐버트 변환이 하는 역할이 무엇인지, 그리고 그 역할을 수행함으로써 얻을 수 있는 결과는 무엇인지 파악하는 것이 중요한 과정일 것이라는 생각이 든다. 먼저, 힐버트 변환의 역할은 일종의 선형 필터로써 신호의 amplitude는 유지하되, phase만 $-\frac{\pi}{2}$만큼 shift 시켜주는 것이다. (음의 주파수의 경우에는 $\pi/2$만큼 phase shift 시켜준다.) 그림 1. 힐버트 변환은 원 신호의 amplitude는 유지하고 phase를 -90' shift 시킨다. 힐버트 변환의 특성 ...

Read more

Geometric Meaning of Determinant

What the determinant represents: How much does the unit area change when linearly transformed? ※ In this article, we follow the column vector convention. Determinant The determinant is used to find the inverse of a matrix. For a $2\times 2$ matrix, the determinant is defined as follows: DEFINITION 1. Determinant ...

Read more