Μπεϋζιανή στατιστική

Η Μπεϋζιανή στατιστική είναι στατιστική η οποία βασίζεται στο θεώρημα Bayes και επιτρέπει την αναθεώρηση της αρχικής πιθανότητας ανάλογα με τα παρατηρηθέντα δεδομένα. Κατά την μπεϋζιανή στατιστική, το αντικείμενο της στατιστικής είναι η ανάπτυξη μεθόδων παραγωγής και διαχείρισης δεδομένων κατά τρόπο ενιαίο, επαγωγικό και μαθηματικά συνεπή. Αρχικά λαμβάνουμε μία κατανομή πιθανότητας η οποία βασίζεται στη γνώση μας για τις άγνωστες παραμέτρους πριν συλλεγούν δεδομένα. Σε δεύτερη φάση χρησιμοποιούμε τα δεδομένα που πήραμε από το πείραμα για να επανακαθορίσουμε την κατανομή αυτή.

Θεώρημα Μπέυζ

Το θεώρημα Μπέυζ ορίστηκε μαθηματικά ως η ακόλουθη εξίσωση:.

$\operatorname {P} (A|B)={\frac {\operatorname {P} (B|A)\cdot \operatorname {P} (A)}{\operatorname {P} (B)}},$

όπου A και B είναι γεγονότα.

• P(A) και P(B) είναι οι πιθανότητες των A και B που είναι ανεξάρτητα μεταξύ τους.
• P(A | B), η υπό συνθήκη πιθανότητα, είναι η πιθανότητα του A δεδομένου του B να είναι αληθής.
• P(B | A), είναι η πιθανότητα του B δεδομένου του A να είναι αληθής.

Εισαγωγικό παράδειγμα

Σε ένα κουτί υπάρχει ένα εξάεδρο ζάρι και ένα τετράεδρο ζάρι. Επιλέγεται τυχαία ένα εκ των δύο ζαριών. Με το ζάρι που επιλέχθηκε γίνονται 5 ρίψεις. Το αποτέλεσμα της κάθε ρίψης καταγράφεται ως εξής:

• καταγράφεται η τιμή "1" αν το ζάρι φέρει 1
• καταγράφεται η τιμή "0" αν το ζάρι δεν φέρει 1

Το αποτέλεσμα που καταγράφηκε για τις 5 ρίψεις είναι 1,1,1,0,1. Αφού οριστεί μια τυχαία μεταβλητή "θ" οι τιμές της οποίας θα εκφράζουν το ζάρι που επιλέχθηκε να βρεθεί η εκ των προτέρων και η εκ των υστέρων κατανομή μάζας πιθανότητας της "θ"

• θ=1 αν επιλέχθηκε το εξάεδρο ζάρι
• θ=2 αν επιλέχθηκε το τετράεδρο ζάρι

Επειδή επιλέγεται τυχαία ένα από τα δύο ζάρια η εκ των προτέρων κατανομή μάζας πιθανότητας είναι p(θ)=0.5 Οι παρατηρήσεις είναι 1,1,1,0,1. Η συνάρτηση πιθανοφάνειας θα είναι (οι πέντε ρίψεις είναι ανεξάρτητες μεταξύ τους άρα η πιθανότητα των παρατηρήσεων ισούται με το γινόμενο της πιθανότητας κάθε επιμέρους παρατήρησης.): P(B|A)= 5/7776 για θ=1 και 3/1024 για θ=2

Άρα η εκ των υστέρων κατανομή μάζας πιθανότητας είναι:

$\operatorname {P} (A|B)={\frac {\operatorname {P} (B|A)\cdot \operatorname {P} (A)}{\operatorname {P} (B)}}$=

0,18 για θ=1 και 0,82 για θ=2

Άρα πολύ πιθανότερο να έχει επιλεγεί το τετράεδρο ζάρι.