Ricordiamo la formulazione del teorema di Bayes e vediamone un caso pratico (ispirato da Michael Strevens, Notes on Bayesian Confirmation Theory (2017))

Ora immaginiamo di avere tre ipotesi in competizione tra loro, e di non avere ancora alcuno tipo di riscontro empirico:

• $h_1$ = tutti i corvi sono neri
• $h_2$ = metà dei corvi è nera
• $h_3$ = nessun corvo è nero

Dato che non ho ancora raccolto alcuna evidenza, assegno alle tre ipotesi la stessa probabilità a priori: $P(h_1)=P(h_2)=P(h_3) = \dfrac{1}{3}$

Al tempo $t_1$ osservo un corvo nero. Come cambiano le mie credenze nelle tre ipotesi? Cioè, applicando il teorema di Bayes, quale sarà la probabilità $P(h|e)$ dato $e=\text{ho osservato un corvo nero}$ per ognuna di $h_1, h_2, h_3$?

Iniziamo osservando che:

• $P(e\mid h_1) = 1.0$ - la probabilità di osservare un corvo nero dato che so che tutti i corvi sono neri
• $P(e\mid h_2) = 0.5$ - la probabilità di osservare un corvo nero dato che so che metà dei corvi sono neri
• $P(e \mid h_3) = 0.0$ - la probabilità di osservare un corvo nero dato che so che nessun corvo è nero

A questo punto per applicare il teorema di Bayes mi manca solo il denominatore, cioè $P(e)$, la probabilità di osservare un corvo nero. Per calcolare $P(e)$ posso applicare il teorema della probabilità totale:

Di conseguenza, dopo aver osservato un corvo avrò:

• $P(h_1\mid e) = \dfrac{1 \times \dfrac{1}{3}}{\dfrac{1}{2}}=\dfrac{2}{3}$
• $P(h_2\mid e) = \dfrac{\dfrac{1}{2} \times \dfrac{1}{3}}{\dfrac{1}{2}}=\dfrac{1}{3}$
• $P(h_3\mid e) = \dfrac{0\times \dfrac{1}{3}}{\dfrac{1}{2}}=0$

La probabilità della prima ipotesi $h_1$, che tutti i corvi siano neri, è raddoppiata, passando da 1/3 a 2/3; quella dell'ipotesi che metà dei corvi siano neri, $h_2$, è rimasta immutata; mentre la probabilità dell'ipotesi $h_3$, che nessun corvo sia nero è ora pari a 0 (come intuitivamente ci aspettiamo che sia), e possiamo di conseguenza scartarla.

Cosa succede se a questo punto osservo un secondo corvo nero? Per prima cosa dovrò calcolare qual è $P(e)$ a questo stadio utilizzando di nuovo il teorema della probabilità totale:

E, applicando nuovamente il teorema di Bayes, avrò:

• $P(h_1\mid e) = \dfrac{1 \times \dfrac{2}{3}}{\dfrac{5}{6}}=\dfrac{4}{5}$
• $P(h_2\mid e) = \dfrac{\dfrac{1}{2} \times \dfrac{1}{3}}{\dfrac{5}{6}}=\dfrac{1}{5}$

Da notare che la probabilità di $h_1$ questa volta aumenta ma non raddoppia, e la probabilità di $h_2$ invece diminuisce sensibilmente.

Dopo la seconda volta che osservo un corvo nero la probabilità che il prossimo corvo sarà nero è salita a:

Di conseguenza (saltando questa volta i calcoli espliciti): La probabilità della terza ipotesi resta zero, la probabilità della prima continua ad avvicinarsi a 1 ma in modo sempre meno drammatico e la probabilità della seconda ipotesi si avvicina a sua volta a zero. La tabella successiva riassume l'evoluzione delle credenze nelle tre ipotesi.

Il teorema di Bayes, che come abbiamo visto è una sorta di conseguenza banalissima delle leggi fondamentali della probabilità (ricordate che la sua dimostrazione non chiede altro che la definizione di probabilità condizionata), cattura moltissime delle nostre intuizioni sulla relazione tra evidenza empirica ed evoluzione delle credenze nella probabilità di un'ipotesi.

Più specificamente, per esempio:

1. Se un'ipotesi è logicamente incoerente con l'evidenza, la sua probabilità va a zero.
2. Una volta che la probabilità di un'ipotesi scende a zero, non può mai risalire. L'ipotesi viene eliminata.
3. L'ipotesi che assegna la più alta probabilità all'evidenza osservata ($h_1$ nel nostro esempio) riceve il maggior incremento di probabilità dall'osservazione dell'evidenza. Un'ipotesi che assegna probabilità 1 all'evidenza riceverà il massimo incremento possibile nelle circostanze.
4. Se un'ipotesi è coerente con l'evidenza, la sua probabilità non può mai scendere a zero, anche se può avvicinarsi a zero quanto si desidera (come accadrebbe alla probabilità di $h_2$ se venissero osservati solo corvi neri).
5. A mano a mano che un'ipotesi diventa dominante, nel senso che la sua probabilità si avvicina a uno, il suo incremento di probabilità derivante da ulteriori predizioni di successo diminuisce (anche se c'è sempre un incremento).