완숙의 블로그

중심극한 정리 지금까지 우리는 n개의 랜덤 변수가 더해진 랜덤 변수에 대해 적률생성함수 를 통해, 이 랜덤변수가 어떤 분포인지 알아보았다. 그런데, n개의 독립인 랜덤변수들의 합의 CDF는 n이 무한이 증가할 수록 가우시안 CDF로 수렴한다. 이것이 중심극한 정리이며, 이 계산을 통해 우리는 효율적으로 계산할 수 있다. 그렇다면 어떤 분포를 따르는지가 중요한데, 다음의 정규화된 랜덤 변수에 의해 전개한다. 이 랜덤변수의 평균은 0, 표준편차는 1이다. 드 무아부르 라플라스 공식

랜덤변수 합의 기댓값과 분산 기댓값 분산 독립인 경우 적률 생성 함수(Moment Generating Function) 신호를 주파수 대역에서 알아보기 위해 하는 라플라스 변환과 유사하게, 여러개의 랜덤 변수에 대해 어떠한 특징을 파악하기 위해서 우리는 적률 생성함수라는 새로운 함수를 정의하고, 이 좌표계에서 분포의 특징을 파악한다. 이때 사용하는 것이 적률 생성함수(Moment Generating Function) 이다. 특히, 독립 랜덤 변수의 합을 분석할때 유용하다. n차 적률 구하기 유도된 랜덤 변수에 대한 MGF 독립인 경우의 MGF iid 인 경우의 MGF 독립 랜덤 변수의 합 분석

랜덤 벡터 앞서서 여러개의 랜덤 변수를 다뤄보았는데, 이제는 일반화하여, n개의 랜덤 변수를 다룰때의 표기법을 알아본다. 표본값 표기법의 변화 기댓값 벡터 랜덤 벡터의 상관 랜덤 벡터의 요소 i,j 와의 상관은, 다음과 같다. 모든 요소에 대해 상관을 계산하고, 벡터 표기법으로 표현하면 다음과 같다. 벡터 공분산 상관과의 관계 벡터 교차 상관 (cross-correlation) 벡터 교차 공분산 선형 관계가 있는 두 랜덤 벡터의 교차상관행렬과 교차공분산행렬 랜덤벡터 Y가 X와 선형적 관계가 있다고 하자.

결합 조건부 확률 모델 이산 일 때, 연속일 때, 결합 조건부 기댓값 0이 아닌 확률을 갖는 사건 B에 대해, 랜덤 변수 W가 다음의 관계를 가진다고 하자. 이 때 유도된 랜덤변수 W의 사건 B에 대한 조건부 기댓값은, 랜덤변수에 의한 조건 붙이기 이번에는 사건에 대해 조건부 확률을 구하는 것이 아닌, 하나의 랜덤 변수에 대한 조건부 확률 함수를 구해보자. 확률 밀도 함수에 대해서만 서술하겠다. 독립일 경우

사건에 의한 조건 붙이기 사건 B가 X의 집합에 속하는 집합일 때, 사건 B가 발생한 조건에서 X의 조건부 확률 모델은 다음과 같다. 이산 확률 변수 연속 확률 변수 전체를 분할한 사건들에 대한 정리 확률 시행 결과 전체를 분할한 사건들을 B1, B2...Bn이라 하자. 이 각각에 사건에 대한 조건부 확률 모델이 주어진다면, X의 확률 모델을 다음과 같이 얻어진다. 조건부 기댓값 전체를 분할한 상태에서 기댓값 정리 유도된 랜덤 변수의 조건부 기댓값 조건부 분산

공분산 유도된 랜덤변수에 대한 공분산 상관계수 상관계수의 값에 따른 데이터의 분포 유도된 랜덤 변수에 대한 상관계수 상관 상관과 공분산의 관계(중요) 직교 랜덤 변수 (Orthogonal Random Variable) 독립일 경우 공분산과 상관의 값 (중요) 독립인 경우 공분산이 0이다. 공분산이 0인 경우, X, Y가 서로 상관이 없다(uncorrelated) 라 한다. Independent and Identically Distributed (IID) 다변수 랜덤 변수를 갖는 확률 함수가 각각의 랜덤 변수에 대해 독립이며, 또 동일한 분포를 가진다면 IID라 한다.

앞에서는, 랜덤 변수가 결합된 확률 분포에 대한 함수를 구했고, 또 그 함수를 바탕으로 각각의 랜덤 변수에 대한 marginal function을 구했다. 그리고 유도된 랜덤 변수에 대한 평균과 분산을 구해보았다. 이번에는 원래 랜덤 변수에 대해 알고 있을 때, 이로 부터 유도된 확률 변수의 PDF를 구하는 것을 목표로 하자. 유도된 랜덤 변수가 하나의 선형 함수의 모양일 경우 1. 랜덤 변수 X에 대한 분포를 알고 있다고 가정하자. 이 때 W는 다음과 같은 선형함수를 따른다. 이 때, W에 대한 CDF, PDF 를 표현해보면, 2. 랜덤 변수 X에 대한 분포를 알고 있다고 가정하자. 이 때 W는 다음과 같은 선형함수를 따른다. 이 때, W에 대한 CDF, PDF 를 표현해보면, 두 랜덤 변수의 합의 P..

결합 누적 분포 함수 (joint cummulatice Distribution Function) 이산일 때, 연속일 때, 결합 확률 함수 결합 확률 질량 함수 (Joint Probability Mass Function) 확률 구하기 결합 확률 밀도 함수(Joint Probability Density Function) 확률 구하기 한계 확률 함수 (Marginal Function) 한계 확률 질량 함수 (Marginal PMF) 한계 확률 밀도 함수 (Marginal PDF) 두 랜덤 변수를 인자로 가지는 함수의 기댓값 유도된 랜덤 변수 W 가 랜덤변수 X, Y 와 다음의 관계가 있다고 할 때, 이산일 때, 연속일 때, 유도된 랜덤 변수가 합으로 표현될 때 평균(중요) 유도된 랜덤 변수가 합으로 표현될 때..