¿Cómo entender el Teorema de Bayes en forma simple?

José Enrique González Cornejo
Diciembre 2015
Versión 2.0


Resumen de la Regla ("Learning by Example")
 

Experimento


Diagrama de árbol según el experimento

 


Dado el experimento de sacar una bolita de buzón 1 y ponerla en buzón 2, para luego sacar una bolita de buzón 2. Ahí viene la pregunta...

Pregunta de Thomas Bayes:

¿Cuál es la probabilidad que la bolita del segundo buzón sea roja, si la bolita del primer buzón salió negra?



$$ P(R_{\text{Final}})=\\ \frac{P(N)\cdot P(R \mid N)}{P(N) \cdot P(R \mid N) + P(R)\cdot P(R \mid R)} \quad [2] $$



Respuesta Expresión [2]


 



La notación de probabilidad condicional P(R|N) se lee como la probabilidad de que ocurra el evento R, dado que ya ocurrió el evento N. En muchos experimentos o situaciones reales, una información previa cambia el contexto de probabilidad. Es decir, mide esa probabilidad ajustada considerando que N ya sucedió.

La notación de la expresión en el numerador de la fórmula de Bayes es P(N) $\cdot$ P(R|N) se lee como el producto de la probabilidad de sacar en el primer evento una bolita negra, transferirla al segundo buzón y posteriomente en el segundo evento, sacar una bolita roja (Probabilidad Condicional).

En el diagrama de árbol es la rama superior:

 N $\longrightarrow$ R 


$$\underbrace{P(\text{N}) \cdot \ P(\text{R} \mid \text{N})}_{\text{Negra}\quad \land \quad \text{Negra dado Roja}}$$
La notación de la expresión en el denominador de la fórmula de Bayes es P(N)·P(R|N) + P(R)·P(R|R) se lee como la suma de los productos de las probabilidades de sacar en el primer evento una bolita negra y transferirla al segundo buzón y posteriomente en el segundo evento sacar una bolita roja o sacar en el primer evento una bolita roja y transferirla al segundo buzón, posteriomente en el segundo evento sacar una bolita roja. Esta suma es la Probabilidad Total restringido a sacar rojas en el segundo evento.


 N   R  +   R   R 

$$ \underbrace{P(\text{N}) \cdot \ P(\text{R} \mid \text{N})}_{\text{Negra}\quad \land \quad \text{Negra dado Roja}} + \underbrace{P(\text{R})\cdot P(\text{R} \mid \text{R})}_{\text{Roja}\quad \land \quad \text{Roja dado Roja}} \\ $$ $$ = \underbrace{\mathbf{ \frac{3}{5}\cdot\frac{3}{8} + \frac{2}{5}\cdot\frac{1}{2}}}_{\text{Valor en el Denominador de la Fórmula de Bayes}} $$

Descripción del Resultado

Se aplicó el Teorema de Bayes, para obtener la respuesta dada en la expresión [2]. En efecto, obsérvese el diagrama de árbol asociado y desarrollemos:

  • Nótese que el numerador de la expresión [2] sólo estima la probabilidad partiendo de negra para llegar a extraer una roja del segundo buzón.(Cuando se va por ramas consecutivas se multiplica la probabilidad [Conjunción $\land$]. Ver Teorema de la Multiplicación).
     
  • Nótese que el denominador de la expresión [2] es la probabilidad total, - que la bolita extraída del segundo buzón sea roja. Es decir, es la estimación de llegar por los diferentes carriles a sacar un bolita roja del segundo buzón. (Cuando se bifurca por carriles diferentes se suma [Disyunción $\lor$]. Ver Regla de la Adición).
Por tanto, la regla es simple. Utilizar un diagrama de árbol de decisión, para visualizar todas las opciones:
 
i) Calcular la probabilidad del carril de origen (Numerador de la expresión [2] ~ Probabilidad Condicional);


ii) Calcular la probabilidad del evento final requerido (Denominador de la expresión [2] ~ Probabilidad Total)


iii) Obtener la resultante aplicando Bayes (i.e. Dividir el resultado [i] por el resultado [ii] y obtener

$$ P(R_{\text{Final}})=\\ \frac{P(N)\cdot P(R \mid N)}{P(N) \cdot P(R \mid N) + P(R)\cdot P(R \mid R)}=\\ \text{ }\\ \large{ \frac{\frac{3}{5}\cdot\frac{3}{8}} {\frac{3}{5}\cdot\frac{3}{8} + \frac{2}{5} \cdot \frac{1}{2}} }\qquad [2] $$
Ver detalle ejemplo en capítulo I

Ver otro ejemplo aplicado "Naïve Bayes ~ Simple Algoritmo de Clasificación Modelo de Variables Discretas


Generar Diagramas de Arbol

Para empezar, seleccione usted mismo parámetros de la siguiente aplicación y genere un diagrama de árbol, dado que serán la base de los experimentos que haremos para desarrollar el concepto.


Aplicación Generadora de Diagramas de Árbol

Evento 1 Evento2 Evento 3
Carriles Ramas Condicionales Sub Ramas