본문 바로가기

손으로 푸는 통계19

[손으로 푸는 통계 ver1.0] 100. 전체내용 요약 손으로 푸는 통계라는 강의를 한마디로 요약하면 '통계검정에 필요한 기초 이론들과 Z검정의 수학적이해' 라고 할 수 있습니다. 지금까지 다뤘던 전체 내용을 표로 정리해보았습니다. Z검정을 이해하는 과정에서 기초적이면서 중요한 내용들이 자연스럽게 등장했는데요. 1강에서는 평균, 편차, 분산 표준편차를 다뤘구요. 표본의 분산을 구하는 과정에서 자연스럽게 불편추정량이 등장합니다. 그래서 2강에서는 불편추정량이 무엇인지를 다뤘습니다. 3강부터 7강까지는 표본통계량과 모수의 관계를 다뤘습니다. 우리가 가설검정을 하려면 표본평균의 분포를 가정해야하기 때문에 표본평균의 분포를 정규분포로 가정하게 해주는 중심극한 정리를 9강 부터 14강까지 다뤘습니다. 이어서 정규분포를 15강 부터 20강에 걸쳐서 유도를 했습니다. 2.. 2022. 7. 22.

[손으로 푸는 통계 ver1.0] 89. 표본분산의 분포 시뮬레이션 (2) 뭔가 이상하다 아래는 지난시간에 그렸던 그래프입니다. 1~10의 자연수를 갖는 모집단에서 크기가 30인 표본을 뽑고, 표본분산의 분포를 그래프로 그린 것입니다. 더 정확히 말하면 아래 확률변수의 분포입니다. $\frac{n-1}{\sigma^{2}}s^{2}$ 오른쪽 그림은 29자유도의 카이제곱분포입니다. n이 커지면 표본분산의 그래프는 n-1 자유도 카이제곱분포를 따른다고 알려져 있습니다. 나란히 그려진 상태에서 보니 비슷해 보였는데요. 그래프를 겹쳐서 그려보니 이야기가 달라졌습니다. 많이 다릅니다. 겹쳐 그린 그래프로 다시 시뮬레이션을 해보려고 합니다. 모집단을 더 다양화했고 절차도 가다듬었습니다. 1. 배경 우리가 표본분산의 분포를 유도할 때 설정했던 두 가지 조건은 아래와 같습니다. 1) 표본평균의 분포가 정규.. 2022. 6. 6.

[손으로 푸는 통계 ver1.0] 84. 카이제곱분포 형태 예측 (자유도 1~3) 우리는 아래 수식을 유도했습니다. $\frac{n-1}{\sigma^{2}}s^{2} \sim \chi^{2}_{n-1}$ 카이제곱분포의 평균과 분산도 유도한 상태입니다. 이제 카이제곱분포의 분포함수를 그리고 넓이를 구해보면서 모분산 대신 표본분산을 사용하는 것이 가능한지 알아봐야 하는데요. 카이제곱분포를 손으로 정확히 것은 거의 불가능합니다. R이나 파이썬등의 소프트웨어를 이용해서 그려야 하는데요. 미분을 이용하면 어느정도의 형태는 예상해볼 수 있습니다. 오늘은 미분을 이용해서 카이제곱분포의 대략적인 형태를 알아봅시다. n자유도 카이제곱분포 함수는 아래와 같습니다. $f(x)=\frac{1}{2^{\frac{n}{2}}\Gamma\left( \frac{n}{2} \right)} \cdot e^{-\fr.. 2022. 3. 11.

[손으로 푸는 통계 ver1.0] 83. 카이제곱분포의 분산 유도 n자유도 카이제곱분포를 따르는 확률변수의 분산을 유도해봅시다. n자유도 카이제곱분포 함수는 아래와 같습니다. $f(x)=\frac{1}{2^{\frac{n}{2}} \Gamma \left ( \frac{n}{2} \right ) } e^{-\frac{x}{2}} x^{\frac{n}{2}-1}$ 분산은 아래 수식을 이용해서 구하겠습니다. $V[X]=E[X^{2}]-E[X]^{2}$ E[X] 는 n이라는 것을 지난시간에 유도했습니다. 우변의 첫항만 계산하면 됩니다. 우변의 첫항은 아래와 같이 계산됩니다. $E[X^{2}]=\int_{0}^{\infty}x^{2}f(x)dx=\int_{0}^{\infty}x^{2}\frac{1}{2^{\frac{n}{2}} \Gamma \left ( \frac{n}{2} \.. 2022. 3. 7.

[손으로 푸는 통계 ver1.0] 41. 표본분산의 분포 유도 (6) 2자유도 카이제곱분포를 특성함수나 적률생섬함수로 유도할 수 없는 이유 우리는 자유도가 n인 카이제곱분포를 유도하고 있는데요. 제가 생각한 과정은 자유도가 1인 카이제곱분포를 유도하고, 자유도가 1인 카이제곱분포의 적률생성함수 또는 특성함수를 이용하여 자유도가 2인 카이제곱분포를 유도하는 것이었습니다. 그리고 이 과정에서 찾은 관계를 이용하여 자유도 n으로 확장하려고 했는데요. 이 방법으로는 안되더라구요. 지금은 다른 방법을 찾았고 시도하는 중입니다. 이 경우에 왜 적률생성함수나 특성함수로는 불가능한지 공유하는 것 자체가 의미가 있을 것 같아서 공유드리려고 합니다. 먼저 자유도가 1인 카이제곱분포의 적률생성함수를 유도해보겠습니다. 특성함수 유도가 훨씬 복잡해서 적률생성함수로 설명하겠습니다. 자유도가 1인 카이제곱분포를 따르는 확률변수를 Y라고 놓겠습니다. Y의 적률생성함수는.. 2020. 5. 6.

[손으로 푸는 통계 ver1.0] 37. 표본분산의 분포 유도 (2) 표준화 표본분산의 분포를 계속해서 유도해봅시다. 아래는 표본분산의 계산식입니다. 지난시간에 우리는 위 수식을 아래와 같이 변형하였습니다. 우변은 정규분포를 따르는 모집단의 확률변수의 제곱 n개 에서, 정규분포를 따르는 표본평균의 제곱 n개를 뺀 형태입니다. 정규분포보다 표준정규분포가 다루기 쉬우므로, 변형해주겠습니다. 표준화를 할 것입니다. 모집단의 확률변수들은 평균이 모평균 μ 이고 분산이 모분산 σ² 입니다. 표본평균의 평균은 모평균 μ이고, 분산은 모분산을 n으로 나눈 값입니다. 아래와 같이 완전제곱식을 만들게해주는 항을 더하고 빼줍시다. 아래와 같이 꺼내줍시다. 완전제곱식으로 만들어줍시다. 위 식의 파란식들도 완전제곱식으로 만들기 위해 아래와 같이 더하고 뻅시다. 완전제곱식으로 묶고, 소거할 수 있는 항.. 2020. 4. 4.

[손으로 푸는 통계 ver1.0] 36. 표본분산의 분포 유도 (1) 표본분산 수식 변형하기 표본분산의 분포를 유도해봅시다. 일단 시도해보면서 어떤 내용들이 더 필요할지 알아볼 것입니다. 만만치 않은 과정이 될 것 같네요. 평균이 μ 이고 분산이 σ² 인 모집단이 있습니다. 이 모집단에서 뽑을 수 있는 크기가 n인 표본의 표본분산은 아래와 같이 정의됩니다. s² 는 표본분산의 확률변수입니다. 모집단에서 뽑은 수많은 표본분산을 원소로 갖는 집합입니다. 우리가 실제로 표본을뽑는다면, 그 표본을 이 함수에 대입하여 표본분산을 구할 수 있습니다. 확률변수로 놓는 것은 3강에서도 설명한 개념인데요. 이 부분이 이해 안되시는 분들은 댓글을 달아주세요. 많은 분들이 이해를 어려워하시면 더 와닿는 설명을 생각해 보겠습니다. 이제 위 식을 전개해봅시다. 앙변에 n-1을 곱합시다. 시그마와 무관한 식들은 시그마 .. 2020. 4. 1.

[손으로 푸는 통계 ver1.0] 35. z검정의 한계 (우리는 이유도 모른채 모분산 대신 표본분산을 사용했었다) 오늘은 z검정의 한계에 대한 이야기를 해볼것입니다. 우리는 지금까지 z검정을 열심히 배웠지만, 실제로 z검정을 사용할 수 있는 상황은 거의 없습니다. 왜그럴까요? z검정을 하기 위해서 우리는 모집단의 분산을 알아야 합니다. z검정에서 표본평균의 분포를 정의하는데, 이때 표본평균의 분산이 모분산/n이기 때문입니다. 모평균도 몰라서 추정하고 있는데 모분산을 아는 경우가 얼마나 될까요? 없을겁니다. z검정이라는 아주 유용한 검정을 발견했지만, 모분산을 알 수 없는 상황에서는 z검정을 사용할 수가 없습니다. 이 문제를 어떻게 해결할 수 있을까요. 가장 쉽게 떠오르는 방법은 아래와 같을 것입니다. "표본의 분산을 모분산 대신 사용하자" 아래와 같이 대체하는 것입니다. (σ는 모표준편차, s는 표본표분편차입니다.).. 2020. 3. 30.

[손으로 푸는 통계] 28. 2표본 z검정 (1) 소개, 두 모집단과 표본 지금까지 우리는 1표본 Z검정을 배웠습니다. 1표본 Z검정은 모집단에서 표본을 하나 추출하여, 모집단의 평균을 검정하는 것입니다. 예를 들면 모집단의 평균이 30으로 알려진 상황에서 '정말 30이 맞아?'라는 의문을 해결하기 위해 검정을 하는 것입니다. 오늘 부터 배워볼 검정은 2표본 Z검정입니다. 2표본이니까 표본을 2개 뽑는다는 뜻인데요. 하나의 모집단에서 표본을 2개 뽑는 것은 아닙니다. 2표본 Z검정에서 모집단은 2개입니다. 2표본 Z검정은 두 모집단의 평균을 비교하는 검정입니다. 각 모집단에서 표본을 하나씩 뽑기 때문에 표본의 개수는 총 2개가 됩니다. 예를 들어 봅시다. 두 모집단 A와 B가 있습니다. 두 모집단의 분산만 알려져 있고 평균은 모르는 상황이라고 합시다. 그림으로 나타내면 아래와 .. 2020. 1. 3.

[손으로 푸는 통계] 27. 일부 영상을 내린 이유 & 변경된 계획 안녕하세요. 손으로 푸는 통계입니다. 제가 기존에 있던 27~48강 영상를 삭제하였습니다. 27~48강은 아래와 같은 내용입니다. - 분위수 - qq plot - 정규성검정 종류 - KS검정 도입부 이 내용을 없애고, 28강부터 다른 내용으로 이어가려고 합니다. 기존의 계획은 1표본 z검정 이후에 정규성검정을 설명하고, t검정에 대한 설명으로 이어가려고 했습니다. 그래서 분위수부터 시작해서 코로고로브-스미르노브 검정(KS 검정)의 도입부까지 영상을 올려놓은 상태였는데요. KS검정을 공부하다보니 내용이 상당히 어렵고 많았습니다. KS분포를 이해하려면 brownian bridge를 알아야 하고, brownian bridge를 알아야 하면 wiener process(위너 과정)를 알아야 하고, 이 내용들은 확.. 2020. 1. 2.

[손으로 푸는 확률분포] 초기하분포 (5) 그래프 (5) 그래프 초기하분포의 그래프를 그려봅시다. 초기하분포의 확률질량함수는 아래와 같습니다. $p(x)=\frac{_{k}C_{x}\cdot _{M-k}C_{n-x}}{_{M}C_{n}}$ 용어의 의미는 아래와 같습니다. 모집단의 크기 : M 모집단 중 원하는 원소 개수 : k 표본의 크기 : n 표본 중 원하는 원소 개수 : x 그래프 내에서는 표본의 크기 n을 바꾸고, 그래프 간에는 모집단 중 원하는 원소 수인 k를 바꿨습니다. 아래는 확률질량함수입니다. n이 커질 수록 그래프가 오른 쪽으로 이동하고, k가 커져도 그래프가 오른 쪽으로 이동합니다. 아래는 누적분포함수입니다. 사용한 코드는 아래와 같습니다. #####################################################.. 2019. 12. 24.

[손으로 푸는 통계] 26. 1표본 Z검정 예제 1표본 Z검정 예제를 하나 풀어봅시다. A회사 K젤리라는 예제입니다. A제과회사에서는 K젤리라는 인기상품을 팔고 있습니다. A회사는 K젤리 무게의 평균과 표준편차를 아래와 같다고 주장하고 있습니다. $75g \pm 5g$ A회사의 경쟁사인 B사에서는 A사가 K젤리의 무게를 부풀렸다고 생각합니다. B회사에서는 이를 통계적으로 입증하기 위해 K젤리 100개를 구매했습니다. 모집단에서 크기가 100인 표본을 뽑은 것입니다. 포장을 뜯어 100개의 K젤리 무게의 표본평균과 표본표준편차를 계산했더니 아래와 같았습니다. $\bar{X}_{1}=68.5$ $\sigma{1}=2$ 귀무가설과 대립가설을 세워봅시다. 귀무가설은 K젤리의 무게 평균이 70g 이라는 것입니다. 대립가설은 우리의 주장이 담긴 것으로 '70g보.. 2018. 5. 31.

[손으로 푸는 통계] 24. 통계적 가설 검정 감잡기 4 (양측검정 vs 단측검정) 우리는 지난시간까지 아래 내용을 배운 상태입니다. - 귀무가설, 대립가설 - 가설검정 원리 - 유의수준 ($\alpha$) - 유의확률 (p-value) 이번시간에는 기각역, 양측검정, 단측검정을 배워봅시다. 지난시간에 사용한 예시를 가져옵시다. 모집단이 하나 있는데, 평균이 $\mu$라고 알려져 있습니다. 우리는 이 주장에 반대하는 상황입니다. Z검정을 하기 위해 귀무가설과 대립가설을 아래와 같이 세웠습니다. 귀무가설 : $E[\bar{X}]=\mu$ (기존의 주장) 대립가설 : $E[\bar{X}] \neq \mu$ (기존의 주장에 반대하는 우리의 주장) 이 모집단에서 표본을 하나 뽑아서 평균을 구했습니다. 우리가 뽑은 표본의 평균을 $\bar{X}_{1}$ 라고 합시다. $\bar{X}_{1}$ 보.. 2018. 5. 19.

[손으로 푸는 통계] 22. 통계적 가설 검정 감잡기 2 (1표본 Z검정) 지난글에서 통계적 가설검정이 무엇인지 간단히 살펴봤습니다. 오늘은 통계적 가설검정의 절차를 자세히 공부할 것입니다. 통계적 가설검정은 귀무가설과 대립가설을 세우고 해당 가설이 참인지를 확률적으로 판단하는 방법입니다. 모집단의 평균이 $\mu$라고 알려진 상황이고 우리는 이러한 사실을 반박하고 싶습니다. 이때 귀무가설과 대립가설은 아래와 같이 세웁니다. 귀무가설 : $E[\bar{X}]=\mu$ (기존의 주장) 대립가설 : $E[\bar{X}] \neq \mu$ (기존의 주장에 반대하는 우리의 주장) 표본평균의 평균은 모평균과 같으므로 위 가설의 $E[\bar{X}]$ 는 '모집단의 평균' 을 다른 기호로 나타낸 것 뿐입니다. 우리는 귀무가설이 참인지 여부를 통계적으로 판단해야 합니다. 판단 방법의 핵심은.. 2018. 5. 12.

[손으로 푸는 통계] 16. 정규분포 함수 유도 (방법1. 과녁맞추기를 이용한 유도 2/2) 정규분포 함수 유도 (방법1. 과녁맞추기를 이용한 유도 2/2) 정규분포 함수 유도 두번째 시간입니다. 지난 시간에 정규분포 함수의 형태를 찾았고 아래와 같습니다. $f(x)=Ae^{\frac{C}{2}x^2}$ A의 부호 판별 오늘은 계수를 구해보겠습니다. 먼저 A의 부호를 판별해봅시다. $f(x)$는 확률밀도함수이기 때문에 음수값을 가질 수 없습니다. 따라서 항상 양수여야 합니다. $e^{\frac{C}{2}x^2}$ 는 항상 양수이므로, A도 항상 양수입니다. $A>0$ C의 부호 판별 $f(x)=Ae^{\frac{C}{2}x^2}$에서 만약 C가 양수라면 x가 커질 수록 $f(x)$는 한없이 커집니다. x가 커질 수록 전체 값은 작아지는 것이 초기에 설정한 조건이었습니다. x가 커질 수록 전체 값.. 2018. 3. 25.

[손으로 푸는 통계] 15. 정규분포 함수 유도 (방법1. 과녁맞추기를 이용한 유도 1/2) 정규분포 함수 유도 (방법1. 과녁맞추기를 이용한 유도 1/2) 지난 세 강에 걸쳐서 표본의 크기 n이 충분히 클 때 표본평균의 분포가 정규분포를 따른다는 것을 유도했습니다. 정규분포는 당연히 알고 있다는 듯 사용했지만, 우리는 정규분포가 어디에서 왔는지 모릅니다. 정규분포함수는 고등학교 확률과 통계시간에 처음 배웠던걸로 기억합니다. 고등학교 시절 정규분포를 접했을 때, 도데체 이 함수가 어디서 온 것인지 궁금했었습니다. 정규분포가 우리 주변에 여러곳에서 발견된다는 이야기를 듣고, 이와 비슷한 모양의 함수를 찾은 것인가 생각하기도 했습니다. 언젠가 꼭 이유를 밝혀보고 싶다는 생각을 갖고 있었는데요. 우연히 통계 유튜브와 블로그를 시작하게 됐고, 결국 궁금증을 해결할 수 있었습니다. 제가 찾은 정규분포 유.. 2018. 3. 25.

[손으로 푸는 통계] 3. 표본평균의 평균이 모평균과 같은 이유 고등학교 '확률과 통계'시간에 표본평균의 평균을 모평균과 같다는 것을 배웠는데 증명을 하지는 않습니다. '알려져있다' 라고만 배우는데요. 고등학교 수준의 수학으로 증명 가능합니다. 한번 증명해봅시다 표본평균의 평균이란? 모집단에서 표본을 뽑고 평균을 구합니다. 표본을 또 뽑고 평균을 구합니다. 표본을 또 뽑고 평균을 구합니다. 이걸 무한히 반복합니다. 무한히 많은 표본평균이 생깁니다. 얘내들을 가지고 다시 평균을 구합니다. 짧지만 여러운 증명 모집단이 하나 있습니다. 이 모집단의 평균은 $\mu$ 이고 분산은 $\sigma ^{2}$ 라고 놓겠습니다. 이 모집단에서 크기가 n인 표본을 뽑아봅시다. 첫번째 표본은 표본1, 두번째 표본은 표본2 이렇게 무수히 많은 표본을 뽑을 수 있습니다. 복원추출을 가정합.. 2018. 3. 23.

[손으로 푸는 통계] 2. 자유도와 불편추정량 (왜 n-1로 나누나요?) 불편추정량 지난시간에 배운 분산 수식은 아래와 같습니다. $\begin{align}V(X)&=E\left [ \left ( X-\mu \right )^2 \right ]\\&=\frac{\sum_{i=1}^{n}\left ( x_{i}-\mu \right )^{2}}{n} \end{align}$ 분산은 변량의 제곱의 합을 집단의 크기로 나눠서 구합니다. 하지만 표본의 경우는 그렇지 않습니다. 표본은 집단의 크기가 아니라 (집단의 크기-1)로 나눠서 구합니다. 이유는 뒤에서 설명하겠습니다. 모집단에서 표본을 뽑았고 $X_{1}$이라고 부릅시다. 표본의 크기는 n이고 원소는 아래와 같습니다. $X_{1}=\left \{ x_{1}^{1},x_{1}^{2},...,x_{1}^{n} \right \}$ 이 표본.. 2018. 3. 23.

[손으로 푸는 통계] 1. 평균, 편차, 분산, 표준편차 평균, 편차, 분산, 표준편차 통계학은 데이터를 다루는 학문입니다. 데이터를 모으고, 정리하고, 분석하고, 추측하고, 어떤 결론을 도출하는 것이 통계학의 역할입니다. 데이터를 요약해주는 특징들을 알 수 있다면 데이터를 파악하는데 도움이 됩니다. 데이터의 특징을 수치화한 값을 통계량이라고 합니다. 대표적인 통계량에는 '평균(mean)', '분산(variance)', '표준편차(standard deviation)' 등이 있습니다. 어떤 집단이 궁금한 상황을 가정해봅시다. 우리는 그 집단 전체가 궁금합니다. 전체집단을 모집단(Population)이라고 부릅니다. 이 모집단의 평균,편차,분산,표준편차와 같은 모집단의 특성을 모수(Parameter)라고 합니다. 하지만 전체집단을 모두 조사할 수는 없습니다. 그래.. 2018. 3. 23.

이전 1 다음

티스토리툴바