독립이라는 단어는 일상적인 언어에서 “서로 관련이 없다”라는 의미로 사용되곤 합니다. 하지만 그 의미 때문에 확률과 통계에서 독립의 개념을 배울 때 한 사건이 다른 사건과 아무런 관련이 없음을 의미한다고 착각하기 쉽습니다. 하지만 수학에서 독립은 한 사건의 발생이 다른 사건의 발생 확률에 영향을 미치지 않는 것을 의미합니다. 다시 말해, 어떤 조건에서든지 확률이 일정하게 유지되는 성질이죠.
두 사건 와 가 독립이라는 개념을 조건부 확률식을 이용해 나타내면
라 할 수 있습니다. 가 일어날 확률은 가 일어난다고 해도 바뀌지 않는다는 거죠. 따라서 와 가 독립이라면 증명하지 않아도 아래 식들 또한 자명해집니다.
이 개념을 처음 접하는 학생들은 문제에 바로 적용하기에는 어려움이 있어 학교에서는 조건부 확률의 성질을 이용해 필요충분조건인 식을 가르치죠.
그래서 독립이란 교집합을 곱셈으로 구할 수 있다 정도로만 생각하고 끝내기 십상입니다. 하지만 이러한 식은 독립이 갖고 있는 의미를 전혀 반영하지 못합니다. 독립은 하나의 변수가 다른 변수에 미치는 영향을 고려하지 않아도 되므로, 분석을 단순화할 수 있다는 큰 장점이 있습니다. 표본들이 독립이라는 가정 하에, 평균, 분산 등의 통계량을 추정하기 용이하여 모집단에 대한 일반화가 가능하죠.
독립개념을 확장하기
우선 독립의 필요충분 조건을 다시 보도록 하겠습니다. 이 식 자체로도 굉장히 깔끔하지만 저는 이 식의 변수를 조금 줄여보도록 하겠습니다.
확률의 정의를 사용하면 전체 사건 에 대해 각각의 확률을 집합의 원소의 수를 이용해 정의할 수 있습니다.
이제 두 사건 와 가 독립이므로 독립의 필요충분조건 식에 확률을 대입한 후에 양변에 전체 사건의 경우의 수를 곱하여 정리하면 에 대한 식을 얻을 수 있습니다.
독립성 확인
예를 들어보죠. 부터 까지의 카드가 있을 때, 집합와 를 다음과 같이 정의하겠습니다.
이 두 집합은 독립일까요?
확률을 이용한 독립성 확인
가장 일반적인 방법으로 확률을 이용해 독립성을 확인해보겠습니다. 전체에 대해 와 의 확률을 계산하면 는 전체 개 중 개이므로 이고 또한 전체 개 중 개이므로 입니다. 이제 를 보면 전체 개 중에서 와 에 동시에 포함된 원소는 즉, 개가 있으므로 입니다. 따라서 를 만족하므로, 독립이라고 할 수 있습니다.
비율을 이용한 독립성 확인
독립을 판단하는 방법은 확률 관계뿐만 아니라 비율을 보는 방법도 있습니다. 는 원소의 개수가 개 이므로 전체에서 절반의 비율을 차지하고 있습니다. 만약 와 가 독립이라면 는 안에서나 밖에서나 일정하게 그 비율을 유지해야합니다. 의 원소 에 대해 는 의 원소이기도 합니다. 따라서 를 전체라고 본다면, 는 안에서도 절반의 비율을 차지하고 있습니다. 그러므로 는 에 관계 없이 비율을 항상 일정하게 유지하고 있으므로 독립이라고 할 수 있습니다.
이러한 이유로 독립을 ‘비율 일정의 법칙’이라 부르기도 합니다. 왜 비율이 일정하다고 하는지는 빈도 교차표를 보면 더 눈에 띄게 드러납니다. 1번 표를 보면 남자에서는 미적과 확통의 비율이 인 반면 여자에서는 비율이 로 같지 않은 것을 알 수 있습니다. 따라서 남자와 여자는 미적과 확통에 대해 독립적이지 않다는 것을 알 수 있습니다.
반면에 2번 표를 보면 남자에서는 미적과 확통의 비율이 이며 이는 여자일 때도 비율이 일정하게 유지 되는 것을 알 수 있습니다. 따라서 남자와 여자는 미적과 확통에 대해 독립적이라고 할 수 있습니다. 이는 미적과 확통을 기준으로 남자와 여자의 비율을 보아도 로 일정하게 유지되는 것을 볼 수 있습니다.
이러한 성질을 알고 있다면 와 가 독립이라는 정보가 주어졌을 때, 비율을 이용해 미지의 값을 빠르게 구할 수 있습니다. 일반화하여 적용하는 방법은 잠시 후에 자세히 다루도록 하겠습니다.
전체 경우의 수로 확인
마지막으로 이전에 유도한 공식을 이용할 수도 있습니다. 와 의 원소의 개수를 곱한 값을 의 경우의 수로 나눈 값이 전체 경우의 수가 되는지 확인하는 방식을 이용하면 이전에 방법과 유사하지만 적은 연산으로도 빠르게 독립성을 판단할 수 있습니다.
일부를 이용해 전체를 유도하는 방법
앞서 보았듯 독립이란 조건을 이용하면 집합 와 만으로도 전체 사건의 경우의 수 즉, 전체 집합의 원소의 개수를 구할 수 있습니다. 예를 들어보죠.
코드 작성은 어려운 작업 중 하나입니다. 특히 복잡한 프로젝트에서는 수많은 줄의 코드가 얽혀 있으며, 그 중 하나라도 잘못되면 전체 시스템이 작동하지 않을 수 있죠. 이런 상황에서 모든 오류를 찾는 것은 정말 어려운 일입니다. 만약 만 줄의 복잡한 코드가 실행되지 않는 상황이 발생했다고 해보겠습니다. 프로그래머 두 명, 와 가 이 문제를 해결하기 위해 각자 코드에서 오류를 찾기로 했습니다. 이때, 는 개의 오류를 발견했고, 는 개의 오류를 발견했다고 해보겠습니다. 다행히 두 프로그래머가 분석한 부분에 중복으로 발견한 오류가 있었고, 그 개수는 개였습니다. 여기서 우리는 독립성을 사용할 수 있습니다. 두 프로그래머의 작업은 독립적이므로, 오류 발견은 독립 사건으로 볼 수 있습니다.
따라서 가 발견한 오류와 가 발견한 오류를 곱하고, 그 결과를 둘 다 발견한 오류로 나누면 결과적으로 전체 코드에서의 오류 개수는 개로 추정할 수 있습니다. 여기서 한 발 더 나아가 보겠습니다. 현재 발견한 코드의 오류 개수는 중복 영역에서 발견한 오류를 한 번만 세어야 하므로 합집합 개념을 이용해 표현할 수 있습니다.
와 가 현재 발견한 오류의 개수는 총 개이고 따라서 두 프로그래머가 앞으로 전체 코드에서 발견해야 할 오류의 개수가 개 라는 것을 정확하게 파악할 수 있습니다.
이 과정을 일반화 해보죠. 먼저 전체 오류의 개수와 현재 발견한 오류의 개수를 구하는 식은 다음과 같이 정의했습니다.
앞으로 찾아야 할 오류의 개수는 합집합의 여집합이므로 계산하는 식에 위의 두 식을 대입할 수 있습니다.
두 프로그래머가 찾은 오류 중 중복되지 않은 오류의 개수를 각각 와 로 표현하고, 둘 다 찾은 오류의 개수를 로 표현하면, 앞으로 찾아야 할 오류의 개수는 다음과 같이 계산됩니다
이렇게 정리된 식은 우리에게 많은 정보를 줍니다. 먼저 이 식을 통해 A와 B가 각각 자신들만 찾은 오류가 많고, 둘 다 찾아낸 오류의 개수가 적다면, 여전히 많은 오류가 남아 있을 것이라는 정보를 줍니다. 그리고 이 식에는 두 프로그래머가 얼마나 오류를 잘 찾아내는지를 나타내는 정확도에 대한 내용이 없습니다. 따라서 와 가 오류를 찾는 정확도가 낮아도 독립적이라는 성질만으로 전체를 꽤 정확하게 추측 할 수 있음을 보여줍니다.
포획-재포획법
자연의 세계에서는 종종 숨겨진 것들을 발견하고 이해하려는 노력이 필요합니다. 그리고 앞서 소개한 방법은 포획-재포획법이라 불리는 방법으로 독립이라는 성질을 이용해 전체 사례를 추정할 수 있게하죠.
한 예를 더 들어보겠습니다. 특정 질병의 발병률을 정확하게 파악하는 것은 그 질병의 예방과 치료에 있어 중요한 역할을 합니다. 하지만 실제로는 모든 환자를 대상으로 검사하기 어려운 경우가 많습니다. 이런 상황에서 두 개의 독립된 검사 방법을 사용하여 질병의 실제 발병률을 추정하는 방법을 살펴보겠습니다.
먼저, 검사 방법 A와 B를 도입해보겠습니다. 검사 방법 A는 특정 지역의 환자 중 명을 대상으로 질병을 진단하고, 명이 양성 판정을 받았다고 가정해보겠습니다. 검사 방법 B도 동일한 지역의 환자 중 명을 대상으로 질병을 진단하고, 명이 양성 판정을 받았다고 해보겠습니다. 두 검사 방법이 중복되는 환자가 있을 수 있으며, 이 중복 영역에서 둘 다 양성 판정을 받은 환자는 명이라고 가정하겠습니다.
이제 두 검사 방법의 독립성을 이용하여 전체 발병률을 추정해보겠습니다. 포획-재포획법을 사용하여 전체 발병률을 계산하면 다음과 같이 됩니다.
이 수식은 전체 환자 중 질병에 걸린 환자의 수가 명임을 추정하게 해줍니다. 또한, 각 검사 방법에서 양성 판정을 받은 환자의 수를 계산하면 현재까지 발견된 환자 수는 명이고, 앞으로 찾아야 할 환자 수는 명임을 의미합니다. 이러한 추정을 통해 의료진은 진단과 치료 계획을 더 효과적으로 수립할 수 있습니다. 특정 질병의 실제 발병률을 추정하는 것은 어려운 과제지만, 독립을 이용하면 단순화하고 정확한 추정을 할 수 있게 해줍니다.
이 방법은 두 개 이상의 독립된 시장 조사를 통해 특정 제품의 잠재 고객 수나 특정 지역의 소비자 행동을 분석하거나 독립된 데이터를 활용하여 누락된 정보나 알려지지 않은 정보를 예측할 수도 있습니다. 독립은 이처럼 다양한 분야에서 복잡한 문제를 해결하는 강력한 도구로 자리 잡았습니다. 여러분도 일상에서 독립된 정보를 통해 더 정확한 판단을 내리는데 도움이 되길 바랍니다.
이전 영상에서 프로그래머의 오류찾기에서 불명확한 내용에 대해 지적해주신 부분이 있어 수정 후 업로드 하였습니다. 구독자님들께서 올바르게 지적해주신 내용에 대해 아래 적어두겠습니다.
Q1. n(A∩B)=0이면 전체 오류 수는 발산하나요? A1. n(A∩B)=0이라면 두 집합이 배반이므로 독립성을 고려할 대상이 아닙니다.
Q2. A는 초반, B는 후반를 정해주고 프로그래머는 모든 오류를 찾지 못한다고 가정한다면, 표본집단이 같지 않으므로 해당 공식을 사용할 수 없을 것 입니다. A2. 해당 질의에 대한 내용으로 영상을 수정하였습니다. A와 B가 테스트하는 부분이 서로 같지 않다면 오류의 개수가 ‘전체적으로 골고루 퍼져있어야한다.’ 또는 ‘오류의 개수가 A, B와 각각 독립적이어야한다.‘라는 추가적인 조건이 더 필요합니다. 이전 영상에서 A는 코드의 앞선 부분, B는 뒷 부분을 정해주는 것이라는 사족에 의해 추가적인 조건이 더 필요하고 논리적 설명이 약해지는 것때문에 A, B가 전체 같은 부분의 코드를 전체적으로 본다는 것과 독립적으로 오류를 찾는 다는 말을 보강했습니다. 지적해주신 부분 감사드립니다.
더불어 이 예시가 어떻게보면 좋지 않은 예시였다는 생각이 계속 듭니다. 좀 색다르면서 실생활에 써먹을 수 있는 만들어보고자 프로그래밍 코드라는 상황을 설정해보았는데 실제상황과 조금 안맞지 않았나 계속 생각이 듭니다. 영상을 다 만들어 놓고 보니 차라리 ‘AI가 알고있는 단어의 개수’등과 같은 예시가 더 재밌지 않았을까? 하는 생각도 듭니다. 여러분들은 어떠신가요?
아래는 전체 댓글입니다.
@user-yb9yr3nk2g 이 논리대로 생각했을 때 만약 두 프로그래머가 서로 완전히 다른 위치에서 오류를 검사했다면, n(A∩B)=0이므로 전체 오류 수는 발산하는 것인가요? 해당 논리에서 부족한 부분이 어떤게 독립인지 정확히 설명하지 않은데 있는 것 같습니다. 만약 두 프로그래머가 오류를 검사하는 영역이 무작위적이고, 따라서 두 프로그래머가 ‘오류가 있는 영역을 검사할 확률’이 독립이라면, 해당 논리가 들어맞습니다. 반대로 영역이 같고 두 프로그래머가 오류를 찾아내는 확률이 독립이라면, 같은 영역에서 두 프로그래머가 찾은 오류 갯수가 확률이 되므로, 해당 논리가 맞습니다. 하지만 영상에서 위치(A는 초반, B는 후반)를 정해주고 프로그래머는 모든 오류를 찾지 못한다고 가정한다면, 표본집단이 같지 않으므로 해당 공식을 사용할 수 없을 것 입니다. 왜냐하면 해당 공식에서 확률이 아닌 개수를 사용하였는데 이는 표본집단이 같다는 가정이 깔려있기 떄문입니다. 다시 말하자면 p(A)=n(A)/A가조사한코드의수 로 정해질텐데, A와 B가 조사한 코드의 수가 다르므로 같은 공식에 넣어 약분할 수 없기 때문에 사용할 수 없는 공식입니다. 따라서 영상의 논리가 맞고자 한다면 ‘가정을 같은 부분을 검사하였다’라거나 ‘프로그래머는 무작위적으로 코드를 검사했다’라는 가정이 포함되어야 할 것 같습니다.
@jukmok 확실히 이상합니다. 확률 형태를 개수 형태로 변환할 때 분모는 전체집합 S였기에 n(A)와 n(B)를 말할 때 ”두 프로그래머가 코드 ‘전체’를 읽어보고 각자 찾은 오류의 개수“ 라고 하는게 맞습니다. 여기서 두 프로그래머가 각자 오류를 찾는 것이 서로 독립이라고 하면 저 식에 대입해서 A 40개 B 50개 공통 10개로 총 오류 개수는 200개라는 결론이 나오죠. (굳이 전체가 아니더라도 두 프로그래머가 같은 부분을 보고 오류를 찾는다고 해도 됩니다. 식에서 S를 전체 코드의 부분집합으로 보고 S를 통일시키기만 하면 되니까요) 식을 해석하는 과정에서 A와 B가 가리키는 전체집합 S가 달라서 생긴 문제같습니다. 다만 실리적인 관점에서 코드는 찾기 쉬운 오류와 찾기 어려운 오류가 공존할 것이므로(즉, 모든 오류가 동일한 검출률을 갖지 않으므로) 오류 찾기가 독립이 아닐 것이며 이 비유 자체가 좋은 비유는 아닐 수 있을 것 같습니다.