Home

Maximum Likelihood Estimation(MLE)

What probability density function with what mean value could these samples have been drawn from? adapted from the Seeing Theory's amazing visualization of MLE Definition of Maximum Likelihood Estimation Maximum Likelihood Estimation (MLE) is a parametric data density estimation method that estimates parameters $\theta = (\theta_1...

Read more

최대우도법(MLE)

어떤 평균값을 갖는 확률밀도로 부터 이 샘플들이 추출되었을까? adapted from the Seeing Theory's amazing visualization of MLE 최대우도법의 정의 최대우도법(Maximum Likelihood Estimation, 이하 MLE)은 모수적인 데이터 밀도 추정 방법으로써 파라미터 $\theta = (\theta_1, \cdots, \theta_m)$으로 구성된 어떤 확률밀도함수 $P(x|\theta)$에서 관측된 표본 데이터 집합을 $x = (x_1, x_2, \cdots, x_n)$이라 할 때, 이 표본들에서 파라미터 $\theta = (\the...

Read more

Independent Component Analysis (ICA)

Prerequisites We recommend having a good understanding of the following topics before proceeding: Meaning of the Central Limit Theorem Recommended JS Applet: Seeing Theory Maximum Likelihood Estimation (MLE) Recommended YouTube video: StatQuest Recommended JS Applet: Seeing Theory Gradient Des...

Read more

독립 성분 분석 (ICA)

Prerequisites 아래의 내용에 대해 잘 알고 오는 것을 추천드립니다. 중심극한정리의 의미 추천 JS Applet: Seeing Theory 최대우도법(Maximum Likelihood Estimation) 관련 내용 추천 Youtube 비디오: StatQuest 위 영상 정리 blog: BetterThanWholwas 추천 JS Applet: Seeing Theory 경사하강법(Gradient Descent) ICA 모델과 목적 위키피디아에 따르면 독립 성분 분석(Independent Compon...

Read more

Geometric Meaning of Euler's Formula

Please move the slider :) What is Euler’s Formula? First, let’s write Euler’s formula itself. \[e^{i\theta} = \cos(\theta) + i\sin(\theta)\] As you can see in equation (1), Euler’s formula consists of several elements, and the most unique one among them is the imaginary exponent. In this article, let’s explore the meaning of this seemingly...

Read more

오일러 공식의 기하학적 의미

슬라이더를 움직여 보세요 ^^ 오일러 공식이란 우선 오일러 공식을 직접 써보도록 하자. \[e^{i\theta} = \cos(\theta) + i\sin(\theta)\] 식 (1)에서 볼 수 있듯이 오일러 공식은 여러가지 요소들이 혼합되어 있는데, 그 중 가장 독특한 것은 허수 승수라고 할 수 있을 것 같다. 이번 article에서는 이 복잡해 보이기만 하는 수식의 의미에 대해서 알아보도록 하자. 기하학적 의미 오일러 공식을 들여다보면 자연상수 $e$, 허수 $i$, 삼각함수 $\cos, \sin$가 들어있음을 알 수 있다. 처음 보기에는 허수 승수가 있는 좌변으로부터 어떤 정보를 알기는 어렵기에...

Read more

Geometric Meaning of Hessian Matrix

※ To understand the geometric interpretation of the Hessian matrix, it is strongly recommended to familiarize yourself with the following content: Matrix and Linear Transformation Eigenvalues and Eigenvectors Definition of Hessian Matrix First, it may be important to understand the definition of the Hessian matrix and its form. Accordi...

Read more

헤세 행렬(Hessian Matrix)의 기하학적 의미

※ Hessian Matrix의 정식 한글명칭은 헤세 행렬인 것으로 보이나 글쓴이의 편의를 위해 헤시안 행렬, 헤세 행렬, Hessian 행렬, Hessian Matrix 등으로 혼용해 부르고자 합니다. ※ Hessian 행렬의 기하학적 의미편을 이해하기 위해선 아래의 내용에 대해 숙지하고 오시는 것을 강력히 추천드립니다. 행렬과 선형변환 고유값과 고유벡터 Hessian Matrix의 정의 우선은 Hessian 행렬이 어떤 형태를 가지는지 Hessian 행렬의 정의를 알아보는 것이 중요할 수 있다. 위키피디아에 따르면 헤세 행렬(Hessian Matrix)은 어떤 함수의 2계 도함수들을 이용하여...

Read more