5. Wzór Bayesa

R1JekUqHBaiPr

RWsXArhPcooD51

Na ilustracji przedstawiono czarno biały portret mężczyzny w krótkich włosach. Ma na sobie długą szatę. — Thomas Bayes
Źródło: dostępny w internecie: commons.wikimedia.org, domena publiczna.

W tym materiale poznamy twierdzenie Bayesa, będące jednym z najważniejszych twierdzeń teorii prawdopodobieństwa wykorzystywanych w zastosowaniach praktycznych.

Twierdzenie to opisuje prawdopodobieństwo zajścia danego zdarzenia na podstawie wcześniejszej wiedzy o warunkach, które mogą być związane ze zdarzeniem.

Na przykład wiadomo, że ryzyko nie zdania egzaminu poprawkowego wzrasta wraz z upływem czasu od pierwszego terminu egzaminu. Twierdzenie Bayesa pozwala oszacować to ryzyko bardziej precyzyjnie.

Ważnym zastosowaniem tego twierdzenia jest tzw. wnioskowanie bayesowskie, będące jedną z metod wnioskowania statystycznego. Za jego pomocą można aktualizować prawdopodobieństwo zajścia danego zdarzenia, w miarę pojawiania się nowych informacji. Wnioskowanie bayesowskie ma zastosowanie w medycynie, filozofii, inżynierii, sporcie – w przypadku dynamicznie zmieniających się danych.

Twierdzenie Bayesa zostało tak nazwane na cześć wielebnego Thomasa Bayesa, osiemnastowiecznego angielskiego matematyka i duchownego, którego uważa się też za jednego z twórców wzoru na prawdopodobieństwo warunkowe.

Twoje cele

Obliczysz prawdopodobieństwo zajścia danego zdarzenia, korzystając ze wzoru Bayesa.
Opiszesz sytuację probabilistyczną, korzystając z prawdopodobieństwa warunkowego.
Dobierzesz odpowiedni model matematyczny do rozwiązania problemu probabilistycznego z kontekstem realistycznym.

Niech $B_{1}$ , $B_{2}$ , $\dots$ , $B_{n}$ będzie układem wzajemnie wykluczających się zdarzeń należących do tej samej przestrzeni zdarzeń elementarnych, z których przynajmniej jedno musi zajść. Prawdopodobieństwo zajścia każdego z tych zdarzeń niech będzie dodatnie.

Niech $A$ oznacza zdarzenie o dodatnim prawdopodobieństwie, które może zajść wyłącznie z jednym ze zdarzeń $B_{1}$ , $B_{2}$ , $\dots$ , $B_{n}$ .

Ze wzoru na prawdopodobieństwo warunkowe wynika, że jeśli $A \subset Ω$ i $B \subset Ω$ oraz:

$P (B) > 0$ to $P (A \cap B) = P (A ∖ B) \cdot P (B)$ ,

$P (A) > 0$ to $P (A \cap B) = P (B ∖ A) \cdot P (A)$ .

Korzystając z powyższego dla zdarzeń $A$ i $B_{i}$ , gdzie $i = 1$ , $2$ , $\dots$ , $n$ , możemy zapisać równość:

P (B_{i} ∖ A) \cdot P (A) = P (A ∖ B_{i}) \cdot P (B_{i})

I przekształcić tę równość równoważnie.

P (B_{i} ∖ A) = \frac{P (A ∖ B_{i}) \cdot P (B_{i})}{P (A)}

Do prawej strony równości stosujemy wzór na prawdopodobieństwo całkowite.

P (B_{i} ∖ A) = \frac{P (A ∖ B_{i}) \cdot P (B_{i})}{P (A ∖ B_{1}) \cdot P (B_{1}) + \dots + P (A ∖ B_{n}) \cdot P (B_{n})}

Otrzymaną zależność nazywamy wzorem Bayesa.

Prawdopodobieństwo $P (B_{i})$ nazywane jest czasem prawdopodobieństwem a priori, a prawdopodobieństwo $P (B_{i} ∖ A)$ nazywamy prawdopodobieństwem a posteriori, gdyż określa ono szansę zajścia zdarzenia $B_{i}$ po zaobserwowaniu zajścia zdarzenia $A$ . Wzór Bayesawzór BayesaWzór Bayesa stosujemy więc głównie wtedy, gdy znamy wynik doświadczenia i pytamy o jego przebieg.

Sformułujemy wzór Bayesa w postaci najczęściej używanej – ograniczymy się tylko do trzech zdarzeń $A$ , $B_{1}$ , $B_{2}$ .

Wzór Bayesa, reguła Bayesa

Twierdzenie: Wzór Bayesa, reguła Bayesa

Niech $Ω$ będzie zbiorem wszystkich wyników pewnego doświadczenia, a $B_{1} \subset Ω$ , $B_{2} \subset Ω$ zdarzeniami o dodatnich prawdopodobieństwach, takimi że $B_{1} \cup B_{2} = Ω$ oraz $B_{1} \cap B_{2} = \emptyset$ . Wówczas dla dowolnego zdarzenia $A \subset Ω$ o dodatnim prawdopodobieństwie, prawdziwy jest wzór:

P (B_{1} ∖ A) = \frac{P (B_{1}) \cdot P (A ∖ B_{1})}{P (A ∖ B_{1}) \cdot P (B_{1}) + P (A ∖ B_{2}) \cdot P (B_{2})}

Przykład 1

Niech $B$ będzie zdarzeniem – dana osoba nosi okulary, $A$ niech będzie zdarzeniem – dana osoba ma zielone oczy. Wtedy zdarzenie $B ∖ A$ – osoba nosząca okulary wśród osób mających zielone oczy, zdarzenie $A ∖ B$ – osoba mająca zielone oczy wśród osób noszących okulary.

Po zbadaniu pewnej grupy osób stwierdzono, że dla tej grupy osób $P (A) = 0, 1$ , $P (B) = 0, 2$ i $P (B ∖ A) = 0, 6$ . Obliczymy $P (A ∖ B)$ .

Korzystamy ze wzoru Bayesa.

$P (A ∖ B) = \frac{P (B ∖ A) \cdot P (A)}{P (B)}$

$P (A ∖ B) = \frac{0, 6 \cdot 0, 1}{0, 2} = 0, 3$ .

Przykład 2

Matematykę lubi co piąty uczeń klasy pierwszej, co czwarty uczeń klasy drugiej i co drugi uczeń klasy trzeciej. Z grupy uczniów składającej się z $10$ uczniów klasy pierwszej, $10$ uczniów klasy drugiej i $10$ uczniów klasy trzeciej wybrano jedną osobę.

Obliczymy prawdopodobieństwo, że wybrana osoba lubi matematykę.

Jakie jest prawdopodobieństwo, że był to uczeń klasy drugiej, jeżeli wiadomo, że wybrana osoba lubi matematykę?

Oznaczmy:
$A$ – zdarzenie polegające na tym, że wybrany uczeń jest z klasy pierwszej,
$B$ – zdarzenia polegające na tym, że wybrany uczeń jest z klasy drugiej,
$C$ – zdarzenie polegające na tym, że wybrany uczeń jest klasy trzeciej,
$M$ – zdarzenie polegające na tym, że wybrany uczeń lubi matematykę.

Zauważmy, że zdarzenia $A$ , $B$ , $C$ tworzą zupełny układ zdarzeń oraz $A \cup B \cup C = Ω$ . Możemy więc zastosować twierdzenie o prawdopodobieństwie całkowitym.

$P (M) = P (A) \cdot P (M ∖ A) + P (B) \cdot P (M ∖ B) + P (C) \cdot P (M ∖ C)$

$P (M) = \frac{1}{3} \cdot \frac{1}{5} + \frac{1}{3} \cdot \frac{1}{4} + \frac{1}{3} \cdot \frac{1}{2} = \frac{19}{60}$

Ponieważ $P (M) > 0$ , to możemy zastosować twierdzenie Bayesa.

$P (B ∖ M) = \frac{P (B) \cdot P (M ∖ B)}{P (A) \cdot P (M ∖ A) + P (B) \cdot P (M ∖ B) + P (C) \cdot P (M ∖ C)}$

$P (B ∖ M) = \frac{\frac{1}{3} \cdot \frac{1}{4}}{\frac{1}{3} \cdot \frac{1}{5} + \frac{1}{3} \cdot \frac{1}{4} + \frac{1}{3} \cdot \frac{1}{2}} = \frac{5}{19}$

Odpowiedź:

Prawdopodobieństwo, że wybrana osoba lubi matematykę jest równe $\frac{19}{60}$ . Prawdopodobieństwo, że wybrana osoba była uczniem klasy drugiej, jeżeli wiadomo, że wybrana osoba lubi matematykę jest równe $\frac{5}{19}$ .

Przykład 3

W biegach przełajowych startują zawodnicy tylko z dwóch klubów. Zawodnicy z klubu Niezwyciężeni stanowią $30 %$ wszystkich zawodników, a pozostali zawodnicy są z klubu Niepokonani. Wśród Niezwyciężonych jest połowa kobiet, a wśród Niepokonanych tylko $10 %$ to kobiety. W sposób losowy ze wszystkich zawodników wybrano jedną osobę, okazało się, że jest to kobieta. Obliczymy prawdopodobieństwo, że jest ona zawodniczką z klubu Niezwyciężeni.

Oznaczmy:
$A$ – wybrana osoba to kobieta,
$B_{1}$ – wybrana osoba jest z klubu Niezwyciężeni,
$B_{2}$ – wybrana osoba jest z klubu Niepokonani.

Na podstawie treści zadania możemy zapisać:

$P (B_{1}) = 0, 3$

$P (B_{2}) = 1 - 0, 3 = 0, 7$

$P (A ∖ B_{1}) = 0, 5$

$P (A ∖ B_{2}) = 0, 1$

Korzystamy ze wzoru Bayesa.

$P (B_{1} ∖ A) = \frac{P (B_{1}) \cdot P (A ∖ B_{1})}{P (A ∖ B_{1}) \cdot P (B_{1}) + P (A ∖ B_{2}) \cdot P (B_{2})}$

$P (B_{1} ∖ A) = \frac{0, 3 \cdot 0, 5}{0, 5 \cdot 0, 3 + 0, 1 \cdot 0, 7} = \frac{0, 15}{0, 22} \approx 0, 68$

Odpowiedź:

Prawdopodobieństwo tego, że wylosowana kobieta jest zawodniczką z klubu Niezwyciężeni jest równe około $0, 68$ .

Przykład 4

Na pierwszym klombie rośnie $99$ bratków i jedna stokrotka. Na drugim klombie rośnie $99$ stokrotek i jeden bratek. Rzucamy kostką do gry. Jeśli wypadnie trójka, Anka zrywa kwiat z pierwszego klombu. W pozostałych przypadkach zrywa kwiat z drugiego klombu. Nie znamy wyniku rzutu kostką, ale wiemy, że Anka zerwała bratek. Wyznaczymy prawdopodobieństwo tego, że Anka zerwała kwiat z pierwszego klombu.

Oznaczmy:
$B$ – zdarzenie polegające na tym, że Anka zerwała bratek,
$A$ – zdarzenie polegające na zerwaniu kwiatu z pierwszego klombu,
$C$ – zdarzenie polegające na zerwaniu kwiatu z drugiego klombu.

Wtedy:

$P (A) = \frac{1}{6}$ , $P (C) = \frac{5}{6}$ – wybór klombu

$P (B ∖ A) = \frac{99}{100}$ , $P (B ∖ C) = \frac{1}{100}$ – wybór bratka

Chcemy obliczyć $P (A ∖ B)$ .

Korzystamy ze wzoru Bayesa.

$P (A ∖ B) = \frac{P (B ∖ A) \cdot P (A)}{P (B ∖ A) \cdot P (A) + P (B ∖ C) \cdot P (C)}$

$P (A ∖ B) = \frac{\frac{99}{100} \cdot \frac{1}{6}}{\frac{99}{100} \cdot \frac{1}{6} + \frac{1}{100} \cdot \frac{5}{6}} = \frac{\frac{33}{200}}{\frac{104}{600}} = \frac{99}{104}$

Odpowiedź:

Prawdopodobieństwo tego, że Anka zerwała kwiat z pierwszego klombu jest równe $\frac{99}{104}$ .

Przykład 5

Test na obecność pewnego wirusa daje wynik pozytywny z prawdopodobieństwem $0, 84$ , a negatywny z prawdopodobieństwem $0, 16$ , jeśli wirus jest w organizmie.

Jeśli wirusa w organizmie nie ma, prawdopodobieństwo wyniku pozytywnego jest równe $0, 04$ . Zakłada się, że $1 %$ populacji zarażonych jest tym wirusem. Obliczymy prawdopodobieństwo, że losowo wybrana osoba jest istotnie zarażona wirusem, jeżeli wiadomo, że test dał wynik pozytywny.

Oznaczmy:
$A$ – zdarzenie polegające na tym, że test dał wynik pozytywny,
$B_{1}$ – zdarzenie polegające na tym, że wirus jest w organizmie,
$B_{2}$ – zdarzenie polegające na tym, że wirusa nie ma w organizmie,

Korzystając z treści zadania, zapisujemy odpowiednie prawdopodobieństwa.

$P (B_{1}) = 0, 01$

$P (B_{2}) = 0, 99$

$P (A ∖ B_{1}) = 0, 84$

$P (A ∖ B_{2}) = 0, 04$

Wyznaczone liczby podstawiamy do wzoru Bayesa.

$P (B_{1} ∖ A) = \frac{P (A ∖ B_{1}) \cdot P (B_{1})}{P (A ∖ B_{1}) \cdot P (B_{1}) + P (A ∖ B_{2}) \cdot P (B_{2})}$

$P (B_{1} ∖ A) = \frac{0, 84 \cdot 0, 01}{0, 84 \cdot 0, 01 + 0, 99 \cdot 0, 04} = 0, 175$

Odpowiedź:

Prawdopodobieństwo tego, że losowo wybrana osoba jest istotnie zarażona wirusem, jeżeli test dał wynik pozytywny, jest równe $0, 175$ .

Polecenie 1

Zapoznaj się z animacją, która przybliży Ci zagadnienia związane ze wzorem Bayesa. Postaraj się najpierw samodzielnie rozwiązać prezentowane tam problemy, a następnie porównaj z zamieszczonymi w animacji.

R5T60EoXK3MjI

Polecenie 2

Wśród bliźniąt prawdopodobieństwa urodzenia się dwóch chłopców i dwóch dziewczynek jest odpowiednio równe $a$ i $b$ . Dla bliźniąt różnopłciowych prawdopodobieństwo urodzenia się jako pierwsze dziecko jest dla obu płci jednakowe. Pani Marta będzie miała bliźnięta. Jako pierwsze dziecko urodził się chłopiec. Oblicz prawdopodobieństwo, że drugie dziecko też będzie chłopcem.

Oznaczmy:
$C$ – zdarzenie polegające na tym, że pierwsze dziecko to chłopiec,
$D$ – zdarzenie polegające na tym, że drugie z bliźniąt też jest chłopcem.

$P (C) = a + \frac{1 - (a + b)}{2}$

$P (D ∖ C) = \frac{2 a}{1 + a - b}$ .

RUpVNFZ5sW1Zr1

Ćwiczenie 1

R1BWJbKLNON7X1

Ćwiczenie 2

RhMaw0t6kjP861

Ćwiczenie 3

Ćwiczenie 4

R16DWhho4ZNCC

RoN7ieTieXrpa

RbIk7JdDl9lCO2

Ćwiczenie 5

Ćwiczenie 6

Do sklepu przywożone są pewne detale od trzech producentów. Detale mogą być w pierwszym lub drugim gatunku. W tabelce zapisano ile procent detali pochodzi od którego producenta oraz ile procent detali w pierwszym gatunku pochodzi od danego producenta.

Producent	$%$ detali przywożonych do sklepu	$%$ detali w pierwszym gatunku
$I$	$52$	$40$
$II$	$13$	$65$
$III$	$35$	$70$

RuWDLxtU5IddA

Ćwiczenie 7

Dwóch łuczników strzela do nadmuchanego balonu. Balon zostaje zniszczony, jeżeli trafi go co najmniej jedna strzała. Pierwszy łucznik oddał dziewięć strzałów, a drugi dziesięć strzałów. Pierwszy łucznik trafia średnio osiem na dziesięć strzałów, a drugi siedem na dziesięć strzałów. Strzała trafiła w cel. Oblicz prawdopodobieństwo, że celny strzał oddał pierwszy strzelec.

Oznaczmy:
$A$ – zdarzenie polegające na tym, że balon został zniszczony,
$B_{1}$ – strzał oddał pierwszy łucznik,
$B_{2}$ – strzał oddał drugi łucznik.

$B_{1} \cup B_{2} = Ω$

$B_{1} \cap B_{2} = \emptyset$

$P (B_{1}) = \frac{9}{19}$

$P (B_{2}) = \frac{10}{19}$

$P (A ∖ B_{1}) = \frac{8}{10}$

$P (A ∖ B_{2}) = \frac{7}{10}$

$P (B_{1} ∖ A) = \frac{\frac{8}{10} \cdot \frac{9}{19}}{\frac{8}{10} \cdot \frac{9}{19} + \frac{7}{10} \cdot \frac{10}{19}}$

$P (B_{1} ∖ A) = \frac{\frac{72}{190}}{\frac{71}{95}} = \frac{36}{71}$ .

Ćwiczenie 8

Mamy $15$ monet, z których $\frac{1}{5}$ jest fałszywa. Monety fałszywe zawsze upadają reszką do góry. Monetę wybrano losowo i rzucono dziesięć razy. Za każdym razem wypadła reszka. Oblicz prawdopodobieństwo tego, że wybrano fałszywą monetę.

Oznaczmy:
$A$ – zdarzenie polegające na otrzymaniu dziesięciu reszek,
$D$ – wybrana moneta jest dobra,
$F$ – wybrana moneta jest fałszywa.

W dziesięciu rzutach monetą mamy $2^{10}$ zdarzeń elementarnych, z których tylko jedno sprzyja zdarzeniu $A$ .

$P (A ∖ D) = \frac{1}{2^{10}}$

Korzystamy ze wzoru Bayesa.

$P (F ∖ A) = \frac{P (A ∖ F) \cdot P (F)}{P (A ∖ D) \cdot P (D) + P (A ∖ F) \cdot P (F)}$

$P (F ∖ A) = \frac{1 \cdot \frac{3}{15}}{\frac{1}{2^{10}} \cdot \frac{12}{15} + 1 \cdot \frac{3}{15}} = \frac{1}{\frac{4}{2^{10}} + 1} = \frac{2^{10}}{4 + 2^{10}}$

$P (F ∖ A) \approx 0, 996$

Prawdopodobieństwo tego, że wybrano fałszywą monetę jest w przybliżeniu równe $0, 996$ .

Słownik

wzór Bayesa

niech $Ω$ będzie zbiorem wszystkich wyników pewnego doświadczenia, a $B_{1} \subset Ω$ , $B_{2} \subset Ω$ zdarzeniami o dodatnich prawdopodobieństwach, takimi że $B_{1} \cup B_{2} = Ω$ oraz $B_{1} \cap B_{2} = \emptyset$ ; wówczas dla dowolnego zdarzenia $A \subset Ω$ o dodatnim prawdopodobieństwie, prawdziwy jest wzór:

P (B_{1} ∖ A) = \frac{P (B_{1}) \cdot P (A ∖ B_{1})}{P (A ∖ B_{1}) \cdot P (B_{1}) + P (A ∖ B_{2}) \cdot P (B_{2})}

4. Prawdopodobieństwo całkowite

6. Schemat Bernoullego

5. Wzór Bayesa

Słownik