Μια απλή εξήγηση του θεωρήματος του Bayes. Τύπος Συνολικών Πιθανοτήτων
Κατά την εξαγωγή του τύπου συνολικής πιθανότητας, υποτέθηκε ότι το γεγονός ΑΛΛΑ, η πιθανότητα του οποίου επρόκειτο να προσδιοριστεί, θα μπορούσε να συμβεί σε ένα από τα γεγονότα H 1 , Ν 2 , ... , H n, σχηματίζοντας μια πλήρη ομάδα ασυμβίβαστων συμβάντων κατά ζεύγη. Οι πιθανότητες αυτών των γεγονότων (υποθέσεις) ήταν γνωστές εκ των προτέρων. Ας υποθέσουμε ότι έχει γίνει ένα πείραμα, ως αποτέλεσμα του οποίου το συμβάν ΑΛΛΑέχει έρθει. Αυτές οι πρόσθετες πληροφορίες μας επιτρέπουν να επανεκτιμήσουμε τις πιθανότητες των υποθέσεων Γεια ,έχοντας υπολογίσει Ρ(Η i/Α).
ή, χρησιμοποιώντας τον τύπο συνολικής πιθανότητας, παίρνουμε
Αυτός ο τύπος ονομάζεται τύπος Bayes ή θεώρημα υπόθεσης. Ο τύπος Bayes σάς επιτρέπει να "αναθεωρήσετε" τις πιθανότητες των υποθέσεων αφού γίνει γνωστό το αποτέλεσμα του πειράματος, ως αποτέλεσμα του οποίου εμφανίστηκε το συμβάν ΑΛΛΑ.
Πιθανότητες Р(Н i)είναι οι a priori πιθανότητες των υποθέσεων (υπολογίστηκαν πριν από το πείραμα). Οι πιθανότητες P(H i /A)είναι οι εκ των υστέρων πιθανότητες των υποθέσεων (υπολογίζονται μετά το πείραμα). Ο τύπος Bayes σάς επιτρέπει να υπολογίσετε τις μεταγενέστερες πιθανότητες από τις προηγούμενες πιθανότητες και από τις υπό όρους πιθανότητες του γεγονότος ΑΛΛΑ.
Παράδειγμα. Είναι γνωστό ότι το 5% όλων των ανδρών και το 0,25% όλων των γυναικών έχουν αχρωματοψία. Ένα άτομο που επιλέγεται τυχαία με τον αριθμό της ιατρικής κάρτας πάσχει από αχρωματοψία. Ποια είναι η πιθανότητα να είναι άντρας;
Λύση. Εκδήλωση ΑΛΛΑΤο άτομο είναι αχρωματοψία. Ο χώρος των στοιχειωδών γεγονότων για το πείραμα - ένα άτομο επιλέγεται από τον αριθμό της ιατρικής κάρτας - Ω = ( H 1 , Ν 2 ) αποτελείται από 2 συμβάντα:
H 1 - επιλέγεται ένας άνδρας,
H 2 - επιλέγεται μια γυναίκα.
Αυτά τα γεγονότα μπορούν να επιλεγούν ως υποθέσεις.
Σύμφωνα με την συνθήκη του προβλήματος (τυχαία επιλογή), οι πιθανότητες αυτών των γεγονότων είναι ίδιες και ίσες με P(H 1 ) = 0.5; P(H 2 ) = 0.5.
Σε αυτή την περίπτωση, οι υπό όρους πιθανότητες να πάσχει ένα άτομο από αχρωματοψία είναι ίσες, αντίστοιχα:
ΤΗΓΑΝΙ 1 ) = 0.05 = 1/20; ΤΗΓΑΝΙ 2 ) = 0.0025 = 1/400.
Εφόσον είναι γνωστό ότι το επιλεγμένο άτομο είναι αχρωματοψία, δηλ. έχει συμβεί το συμβάν, χρησιμοποιούμε τον τύπο Bayes για να επαναξιολογήσουμε την πρώτη υπόθεση:
Παράδειγμα.Υπάρχουν τρία πανομοιότυπα κουτιά. Το πρώτο κουτί περιέχει 20 άσπρες μπάλες, το δεύτερο κουτί περιέχει 10 άσπρες και 10 μαύρες μπάλες και το τρίτο κουτί περιέχει 20 μαύρες μπάλες. Μια λευκή μπάλα τραβιέται από ένα κουτί που επιλέγεται τυχαία. Υπολογίστε την πιθανότητα να τραβηχτεί η μπάλα από το πρώτο κουτί.
Λύση. Σημειώστε με ΑΛΛΑεκδήλωση - η εμφάνιση μιας λευκής μπάλας. Τρεις υποθέσεις (υποθέσεις) μπορούν να γίνουν σχετικά με την επιλογή του πλαισίου: H 1 ,H 2 , H 3 - επιλογή του πρώτου, του δεύτερου και του τρίτου κουτιού, αντίστοιχα.
Εφόσον η επιλογή οποιουδήποτε από τα πλαίσια είναι εξίσου δυνατή, οι πιθανότητες των υποθέσεων είναι οι ίδιες:
P(H 1 )=Ρ(Η 2 )=Ρ(Η 3 )= 1/3.
Σύμφωνα με την κατάσταση του προβλήματος, η πιθανότητα να τραβήξετε μια λευκή μπάλα από το πρώτο κουτί
Πιθανότητα να τραβήξετε μια λευκή μπάλα από το δεύτερο κουτί 
Πιθανότητα να τραβήξετε μια λευκή μπάλα από το τρίτο κουτί
Βρίσκουμε την επιθυμητή πιθανότητα χρησιμοποιώντας τον τύπο Bayes:
Επανάληψη δοκιμών. Φόρμουλα Bernoulli.
Υπάρχουν n δοκιμές, σε καθεμία από τις οποίες το συμβάν Α μπορεί να συμβεί ή όχι, και η πιθανότητα του συμβάντος Α σε κάθε μεμονωμένη δοκιμή είναι σταθερή, δηλ. δεν αλλάζει από εμπειρία σε εμπειρία. Γνωρίζουμε ήδη πώς να βρούμε την πιθανότητα ενός συμβάντος Α σε ένα πείραμα.
Ιδιαίτερο ενδιαφέρον παρουσιάζει η πιθανότητα εμφάνισης ορισμένου αριθμού φορές (m φορές) του γεγονότος Α σε n πειράματα. τέτοια προβλήματα επιλύονται εύκολα εάν τα τεστ είναι ανεξάρτητα.
Def.Καλούνται αρκετές δοκιμές ανεξάρτητη σε σχέση με την εκδήλωση Α αν η πιθανότητα του συμβάντος Α σε καθένα από αυτά δεν εξαρτάται από τα αποτελέσματα άλλων πειραμάτων.
Πιθανότητα P n (m) εμφάνισης συμβάντος A ακριβώς m φορές (μη εμφάνιση n-m φορές, συμβάν ) σε αυτές τις n δοκιμές. Το συμβάν Α εμφανίζεται σε μια ποικιλία ακολουθιών m φορές).
- Η φόρμουλα του Μπερνούλι.
Οι παρακάτω τύποι είναι προφανείς:
P n (m
P n (m>k) = P n (k+1) + P n (k+2) +…+ P n (n) - πιθανότητα εμφάνισης του συμβάντος Α περισσότερο k φορές σε n δοκιμές.
Ας ξεκινήσουμε με ένα παράδειγμα. Στην τεφροδόχο μπροστά σου Το ίδιο πιθανόμπορεί να υπάρχουν (1) δύο άσπρες μπάλες, (2) μια λευκή και μια μαύρη, (3) δύο μαύρες. Σέρνεις την μπάλα και βγαίνει άσπρη. Πώς βαθμολογείτε τώρα; πιθανότητααυτές οι τρεις επιλογές (υποθέσεις); Προφανώς, η πιθανότητα της υπόθεσης (3) με δύο μαύρες μπάλες = 0. Πώς να υπολογίσουμε όμως τις πιθανότητες των δύο υποθέσεων που απομένουν!; Αυτό σας επιτρέπει να δημιουργήσετε τον τύπο Bayes, ο οποίος στην περίπτωσή μας έχει τη μορφή (ο αριθμός του τύπου αντιστοιχεί στον αριθμό της υπόθεσης που ελέγχεται):
Λήψη σημείωσης σε μορφή ή
Χείναι μια τυχαία μεταβλητή (υπόθεση) που παίρνει τις ακόλουθες τιμές: x 1- δύο λευκά x 2- ένα λευκό, ένα μαύρο. x 3- δύο μαύρα? στοείναι μια τυχαία μεταβλητή (γεγονός) που παίρνει τις ακόλουθες τιμές: 1- τραβιέται μια λευκή μπάλα και στις 2- σχεδιάζεται μια μαύρη μπάλα. P(x 1)είναι η πιθανότητα της πρώτης υπόθεσης πριν τραβηχτεί η μπάλα ( εκ των προτέρωνπιθανότητα ή πιθανότητα πρινεμπειρία) = 1/3; P(x 2)– πιθανότητα της δεύτερης υπόθεσης πριν τραβηχτεί η μπάλα = 1/3. P(x 3)– πιθανότητα της τρίτης υπόθεσης πριν τραβήξετε την μπάλα = 1/3. P(y 1|x 1)– υπό όρους πιθανότητα να τραβηχτεί μια λευκή μπάλα εάν η πρώτη υπόθεση είναι αληθινή (οι μπάλες είναι λευκές) = 1; P(y 1|x 2) – η πιθανότητα να σχεδιάσετε μια λευκή μπάλα, εάν η δεύτερη υπόθεση είναι αληθινή (μία μπάλα είναι άσπρη, η δεύτερη είναι μαύρη) = ½; P(y 1|x 3) – η πιθανότητα να σχεδιάσετε μια λευκή μπάλα, εάν η τρίτη υπόθεση είναι αληθής (και οι δύο μαύρες) = 0. P(y 1)– πιθανότητα να σχεδιάσετε μια λευκή μπάλα = ½; P(y 2)– πιθανότητα να σχεδιάσετε μια μαύρη μπάλα = ½; και τελικά αυτό που ψάχνουμε - P(x 1|στο 1) – η πιθανότητα να ισχύει η πρώτη υπόθεση (και οι δύο μπάλες είναι λευκές), με την προϋπόθεση ότι σχεδιάσαμε μια λευκή μπάλα ( εκ των υστέρωνπιθανότητα ή πιθανότητα μετάεμπειρία); P(x 2|στο 1) – την πιθανότητα να ισχύει η δεύτερη υπόθεση (η μία μπάλα είναι άσπρη, η δεύτερη είναι μαύρη), με την προϋπόθεση ότι βγάλαμε μια άσπρη μπάλα.
Η πιθανότητα ότι η πρώτη υπόθεση (δύο άσπρες μπάλες) είναι αληθινή, δεδομένου ότι σχεδιάσαμε μια λευκή μπάλα:
Η πιθανότητα να ισχύει η δεύτερη υπόθεση (η μία είναι άσπρη, η δεύτερη είναι μαύρη), με την προϋπόθεση ότι βγάλαμε μια άσπρη μπάλα:
Η πιθανότητα ότι η τρίτη υπόθεση (δύο μαύρες) είναι αληθινή, δεδομένου ότι σχεδιάσαμε μια άσπρη μπάλα:
Τι κάνει η φόρμουλα Bayes; Καθιστά δυνατή, με βάση a priori πιθανότητες υποθέσεων - P(x 1), P(x 2), P(x 3)– και πιθανότητες εμφάνισης γεγονότων – P(y 1), P(y 2)– να υπολογίσετε τις μεταγενέστερες πιθανότητες των υποθέσεων, για παράδειγμα, την πιθανότητα της πρώτης υπόθεσης, με την προϋπόθεση ότι έχει τραβηχτεί μια λευκή μπάλα – P(x 1|στο 1).
Ας επιστρέψουμε στον τύπο (1). Η αρχική πιθανότητα της πρώτης υπόθεσης ήταν Ρ(χ 1) = 1/3. Με πιθανότητα P(y 1) = 1/2θα μπορούσαμε να σχεδιάσουμε μια άσπρη μπάλα, και κατά πάσα πιθανότητα P(y 2) = 1/2- μαύρο. Βγάλαμε το λευκό. Πιθανότητα σχεδίασης λευκού, υπό την προϋπόθεση ότι η πρώτη υπόθεση είναι αληθής P(y 1|x 1) = 1.Ο τύπος του Bayes λέει ότι από τη στιγμή που βγαίνει το λευκό, η πιθανότητα της πρώτης υπόθεσης έχει αυξηθεί στα 2/3, η πιθανότητα της δεύτερης υπόθεσης εξακολουθεί να είναι 1/3 και η πιθανότητα της τρίτης υπόθεσης έχει γίνει μηδέν.
Είναι εύκολο να ελέγξουμε ότι αν σχεδιάσουμε μια μαύρη μπάλα, οι οπίσθιες πιθανότητες θα άλλαζαν συμμετρικά: P(x 1|y 2) = 0, P(x 2|y 2) = 1/3, P(x 3|y 2) = 2/3.
Εδώ είναι τι έγραψε ο Pierre Simon Laplace για τον τύπο Bayes σε μια εργασία που δημοσιεύτηκε το 1814:
Αυτή είναι η βασική αρχή του κλάδου της ανάλυσης της τύχης που ασχολείται με τις μεταβάσεις από γεγονότα σε αιτίες.
Γιατί είναι τόσο δύσκολο να κατανοηθεί η φόρμουλα του Bayes!; Κατά τη γνώμη μου, επειδή η συνήθης προσέγγισή μας είναι ο συλλογισμός από τα αίτια στα αποτελέσματα. Για παράδειγμα, εάν υπάρχουν 36 μπάλες σε μια λάρνακα, οι 6 από τις οποίες είναι μαύρες και οι υπόλοιπες λευκές. Ποια είναι η πιθανότητα να σχεδιάσετε μια λευκή μπάλα; Ο τύπος του Bayes σάς επιτρέπει να πηγαίνετε από γεγονότα σε αιτίες (υποθέσεις). Εάν είχαμε τρεις υποθέσεις και συνέβη ένα γεγονός, τότε πώς ακριβώς επηρέασε αυτό το γεγονός (και όχι το εναλλακτικό) τις αρχικές πιθανότητες των υποθέσεων; Πώς έχουν αλλάξει αυτές οι πιθανότητες;
Πιστεύω ότι ο τύπος του Bayes δεν αφορά μόνο τις πιθανότητες. Αλλάζει το παράδειγμα της αντίληψης. Ποιο είναι το τρένο της σκέψης όταν χρησιμοποιείται το ντετερμινιστικό παράδειγμα; Εάν συμβεί ένα γεγονός, ποια είναι η αιτία του; Αν υπήρξε ατύχημα, έκτακτη ανάγκη, στρατιωτική σύγκρουση. Ποιος ή τι έφταιγε; Πώς σκέφτεται ένας Bayesian παρατηρητής; Ποια είναι η δομή της πραγματικότητας που οδήγησε δεδομένοςπερίπτωση σε τέτοια και τέτοια εκδήλωση ... Ο Bayesian καταλαβαίνει ότι σε σε διαφορετική περίπτωσητο αποτέλεσμα μπορεί να είναι διαφορετικό...
Ας τοποθετήσουμε τα σύμβολα στους τύπους (1) και (2) λίγο διαφορετικά:
Ας μιλήσουμε ξανά για αυτό που βλέπουμε. Με ίση αρχική (a priori) πιθανότητα, μια από τις τρεις υποθέσεις θα μπορούσε να είναι αληθινή. Με ίσες πιθανότητες, θα μπορούσαμε να σχεδιάσουμε μια άσπρη ή μαύρη μπάλα. Βγάλαμε το λευκό. Υπό το φως αυτών των νέων πρόσθετων πληροφοριών, η αξιολόγησή μας για τις υποθέσεις θα πρέπει να αναθεωρηθεί. Ο τύπος του Bayes σάς επιτρέπει να το κάνετε αυτό αριθμητικά. Η a priori πιθανότητα της πρώτης υπόθεσης (τύπος 7) ήταν P(x 1), τραβιέται μια λευκή μπάλα, γίνεται η οπίσθια πιθανότητα της πρώτης υπόθεσης P(x 1|στο 1).Αυτές οι πιθανότητες διαφέρουν κατά έναν παράγοντα.
Εκδήλωση 1αποκαλούμενες αποδείξεις που περισσότερο ή λιγότερο επιβεβαιώνουν ή διαψεύδουν μια υπόθεση x 1. Αυτή η αναλογία μερικές φορές αναφέρεται ως η δύναμη της απόδειξης. Όσο πιο ισχυρά είναι τα στοιχεία (όσο περισσότερο ο συντελεστής διαφέρει από την ενότητα), τόσο μεγαλύτερο είναι το γεγονός της παρατήρησης 1αλλάζει την προηγούμενη πιθανότητα, τόσο περισσότερο η μεταγενέστερη πιθανότητα διαφέρει από την προηγούμενη. Εάν τα στοιχεία είναι αδύναμα (συντελεστής ~ 1), το οπίσθιο είναι σχεδόν ίσο με το προηγούμενο.
Πιστοποιητικό 1σε = 2 φορές άλλαξαν την προηγούμενη πιθανότητα της υπόθεσης x 1(τύπος 4). Ταυτόχρονα, στοιχεία 1δεν άλλαξε την πιθανότητα της υπόθεσης x 2, από τη δύναμή του = 1 (τύπος 5).
Γενικά, ο τύπος Bayes έχει την ακόλουθη μορφή:
Χείναι μια τυχαία μεταβλητή (ένα σύνολο από αμοιβαία αποκλειστικές υποθέσεις) που παίρνει τις τιμές: x 1, x 2, … , Χn. στοείναι μια τυχαία μεταβλητή (ένα σύνολο αμοιβαία αποκλειστικών γεγονότων) που λαμβάνει τις ακόλουθες τιμές: 1, στις 2, … , στοn. Ο τύπος του Bayes σάς επιτρέπει να βρείτε την εκ των υστέρων πιθανότητα μιας υπόθεσης ΧΕγώόταν συμβαίνει ένα γεγονός y j. Ο αριθμητής είναι το γινόμενο της a priori πιθανότητας της υπόθεσης ΧΕγώ – P(xΕγώ) την πιθανότητα να συμβεί ένα γεγονός y jαν η υπόθεση είναι αληθινή ΧΕγώ – R(y j|χΕγώ). Στον παρονομαστή - το άθροισμα των προϊόντων του ίδιου όπως στον αριθμητή, αλλά για όλες τις υποθέσεις. Αν υπολογίσουμε τον παρονομαστή, παίρνουμε τη συνολική πιθανότητα να συμβεί το συμβάν στοι(εάν κάποια από τις υποθέσεις είναι αληθινή) - R(y j) (όπως στους τύπους 1–3).
Για άλλη μια φορά για τα στοιχεία. Εκδήλωση y jπαρέχει πρόσθετες πληροφορίες που σας επιτρέπουν να αναθεωρήσετε την προηγούμενη πιθανότητα της υπόθεσης ΧΕγώ. Δύναμη απόδειξης - 
- περιέχει στον αριθμητή την πιθανότητα να συμβεί το συμβάν y jαν η υπόθεση είναι αληθινή ΧΕγώ. Ο παρονομαστής είναι η συνολική πιθανότητα να συμβεί το γεγονός στοι(ή η πιθανότητα να συμβεί ένα συμβάν στοικατά μέσο όρο σε όλες τις υποθέσεις). στοιπαραπάνω για υπόθεση ΧΕγώαπό τον μέσο όρο για όλες τις υποθέσεις, τότε τα στοιχεία παίζουν καλά στην υπόθεση ΧΕγώ, αυξάνοντας την οπίσθια πιθανότητα του R(y j|χΕγώ).
Εάν η πιθανότητα να συμβεί ένα γεγονός στοιπαρακάτω για την υπόθεση ΧΕγώαπό τον μέσο όρο για όλες τις υποθέσεις, τότε τα στοιχεία μειώνουν την μεταγενέστερη πιθανότητα R(y j|χΕγώ) Γιαυποθέσεις ΧΕγώ.
Εάν η πιθανότητα να συμβεί ένα γεγονός στοιγια την υπόθεση ΧΕγώείναι το ίδιο με το μέσο όρο για όλες τις υποθέσεις, τότε τα στοιχεία δεν αλλάζουν την μεταγενέστερη πιθανότητα R(y j|χΕγώ) Γιαυποθέσεις ΧΕγώ.
Ακολουθούν μερικά παραδείγματα που ελπίζω να ενισχύσουν την κατανόησή σας για τον τύπο Bayes.
Πρόβλημα 2. Δύο σκοπευτές πυροβολούν ανεξάρτητα στον ίδιο στόχο, ο καθένας εκτελεί μία βολή. Η πιθανότητα να χτυπηθεί ο στόχος για τον πρώτο σκοπευτή είναι 0,8, για τον δεύτερο - 0,4. Μετά τη βολή, βρέθηκε μια τρύπα στον στόχο. Βρείτε την πιθανότητα αυτή η τρύπα να ανήκει στον πρώτο σκοπευτή. .
Εργασία 3. Το αντικείμενο που παρακολουθείται μπορεί να βρίσκεται σε μία από τις δύο καταστάσεις: H 1 = (λειτουργεί) και H 2 = (δεν λειτουργεί). A priori πιθανότητες αυτών των καταστάσεων Р(Н 1) = 0,7, Р(Н 2) = 0,3. Υπάρχουν δύο πηγές πληροφοριών που παρέχουν αντικρουόμενες πληροφορίες σχετικά με την κατάσταση ενός αντικειμένου. η πρώτη πηγή αναφέρει ότι το αντικείμενο δεν λειτουργεί, η δεύτερη - ότι λειτουργεί. Είναι γνωστό ότι η πρώτη πηγή δίνει σωστές πληροφορίες με πιθανότητα 0,9, και με πιθανότητα 0,1 - λανθασμένη. Η δεύτερη πηγή είναι λιγότερο αξιόπιστη: δίνει σωστές πληροφορίες με πιθανότητα 0,7 και με πιθανότητα 0,3 - εσφαλμένες. Να βρείτε τις μεταγενέστερες πιθανότητες των υποθέσεων. .
Οι εργασίες 1–3 λαμβάνονται από το εγχειρίδιο του E.S. Ventzel, L.A. Ovcharov. Η θεωρία πιθανοτήτων και οι μηχανικές εφαρμογές της, ενότητα 2.6 Θεώρημα υπόθεσης (τύπος Bayes).
Το πρόβλημα 4 προέρχεται από το βιβλίο, ενότητα 4.3 Θεώρημα Bayes.
ΤΕΧΝΟΛΟΓΙΑ ΠΛΗΡΟΦΟΡΙΚΗΣ, ΕΠΙΣΤΗΜΗ ΠΛΗΡΟΦΟΡΙΚΗΣ ΚΑΙ ΔΙΑΧΕΙΡΙΣΗ
Σχετικά με την εφαρμογή του τύπου Bayes
DOI 10.12737/16076
A. I. Dolgov**
1 Joint-Stock Company "Design Bureau for Radio Monitoring of Control, Navigation and Communication Systems", Rostov-on-Don, Ρωσική Ομοσπονδία
Σχετικά με την εφαρμογή του Bayes" τύπος*** A. I. Dolgov1**
1 "Γραφείο σχεδιασμού για την παρακολούθηση συστημάτων ελέγχου, πλοήγησης και επικοινωνίας" JSC, Rostov-on-Don, Ρωσική Ομοσπονδία
Αντικείμενο αυτής της μελέτης είναι ο τύπος Bayes. Ο σκοπός αυτής της εργασίας είναι να αναλύσει και να επεκτείνει το πεδίο εφαρμογής του τύπου. Το πρωταρχικό καθήκον είναι να μελετηθούν οι δημοσιεύσεις που είναι αφιερωμένες σε αυτό το πρόβλημα, οι οποίες κατέστησαν δυνατό τον εντοπισμό των αδυναμιών της εφαρμογής του τύπου Bayes, οδηγώντας σε εσφαλμένα αποτελέσματα. Η επόμενη εργασία είναι η κατασκευή τροποποιήσεων του τύπου Bayes που λαμβάνουν υπόψη διάφορα μεμονωμένα στοιχεία και αποκτούν σωστά αποτελέσματα. Και, τέλος, στο παράδειγμα συγκεκριμένων αρχικών δεδομένων, συγκρίνονται τα λανθασμένα αποτελέσματα που ελήφθησαν χρησιμοποιώντας τον τύπο Bayes και τα σωστά αποτελέσματα που υπολογίστηκαν χρησιμοποιώντας τις προτεινόμενες τροποποιήσεις. Στη μελέτη χρησιμοποιήθηκαν δύο μέθοδοι. Αρχικά, πραγματοποιήθηκε η ανάλυση των αρχών κατασκευής γνωστών εκφράσεων που χρησιμοποιούνται για τη σύνταξη του τύπου Bayes και των τροποποιήσεών του. Δεύτερον, πραγματοποιήθηκε συγκριτική αξιολόγηση των αποτελεσμάτων (συμπεριλαμβανομένης μιας ποσοτικής). Οι προτεινόμενες τροποποιήσεις παρέχουν μια ευρύτερη εφαρμογή του τύπου Bayes στη θεωρία και στην πράξη, συμπεριλαμβανομένης της επίλυσης εφαρμοσμένων προβλημάτων.
Λέξεις κλειδιά: πιθανότητες υπό όρους, ασύμβατες υποθέσεις, συμβατά και ασυμβίβαστα στοιχεία, κανονικοποίηση.
Ο τύπος Bayes" είναι το αντικείμενο της έρευνας. Ο στόχος της εργασίας είναι να αναλύσει την εφαρμογή του τύπου και να διευρύνει το πεδίο εφαρμογής της. Το πρόβλημα πρώτης προτεραιότητας περιλαμβάνει τον εντοπισμό των μειονεκτημάτων του τύπου Bayes" με βάση τη μελέτη των σχετικών δημοσιεύσεων που οδηγούν σε λανθασμένα Αποτελέσματα. Η επόμενη εργασία είναι να κατασκευάσουμε τις τροποποιήσεις του τύπου Bayes για να παράσχουμε μια καταγραφή διαφόρων μεμονωμένων ενδείξεων για να ληφθούν σωστά αποτελέσματα. Και τέλος, τα λανθασμένα αποτελέσματα που λαμβάνονται με την εφαρμογή του τύπου Bayes συγκρίνονται με τα σωστά αποτελέσματα που υπολογίζονται με τη χρήση του προτεινόμενες τροποποιήσεις τύπου με το παράδειγμα των συγκεκριμένων αρχικών δεδομένων. Δύο μέθοδοι χρησιμοποιούνται σε μελέτες. Αρχικά, γίνεται η ανάλυση των αρχών κατασκευής των γνωστών εκφράσεων που χρησιμοποιούνται για την καταγραφή του τύπου Bayes και των τροποποιήσεών του. Δεύτερον, γίνεται συγκριτική αξιολόγηση των αποτελεσμάτων (συμπεριλαμβανομένης της ποσοτικής). Οι προτεινόμενες τροποποιήσεις παρέχουν μια ευρύτερη εφαρμογή του τύπου Bayes τόσο στη θεωρία όσο και στην πράξη, συμπεριλαμβανομένης της επίλυσης των εφαρμοζόμενων προβλημάτων.
Λέξεις-κλειδιά: πιθανότητες υπό όρους, ασυνεπείς υποθέσεις, συμβατές και ασυμβίβαστες ενδείξεις, κανονικοποίηση.
Εισαγωγή. Ο τύπος Bayes χρησιμοποιείται ολοένα και περισσότερο στη θεωρία και την πράξη, συμπεριλαμβανομένης της επίλυσης εφαρμοσμένων προβλημάτων με τη βοήθεια της τεχνολογίας υπολογιστών. Η χρήση αμοιβαία ανεξάρτητων υπολογιστικών διαδικασιών καθιστά ιδιαίτερα αποτελεσματική την εφαρμογή αυτού του τύπου κατά την επίλυση προβλημάτων σε υπολογιστικά συστήματα πολλαπλών επεξεργαστών, καθώς στην περίπτωση αυτή η παράλληλη υλοποίηση εκτελείται στο επίπεδο του γενικού σχήματος και κατά την προσθήκη του επόμενου αλγόριθμου ή κατηγορίας προβλημάτων , δεν χρειάζεται να γίνει εκ νέου εργασία παραλληλοποίησης.
Αντικείμενο αυτής της μελέτης είναι η δυνατότητα εφαρμογής του τύπου Bayes για τη συγκριτική εκτίμηση των μεταγενέστερων υπό όρους πιθανοτήτων ασυνεπών υποθέσεων κάτω από διάφορα μεμονωμένα στοιχεία. Όπως δείχνει η ανάλυση, σε τέτοιες περιπτώσεις, οι κανονικοποιημένες πιθανότητες ασυμβίβαστων συνδυασμένων γεγονότων ανήκουν σε
S X<и ч и
ΕΙΝΑΙ eö ΚΑΙ ΕΙΝΑΙ Χ Χ<и H
«Η εργασία πραγματοποιήθηκε στο πλαίσιο ενός ερευνητικού προγράμματος πρωτοβουλίας.
** ΗΛΕΚΤΡΟΝΙΚΗ ΔΙΕΥΘΥΝΣΗ: [email προστατευμένο]
""Η έρευνα γίνεται στο πλαίσιο της ανεξάρτητης Ε&Α.
για διαφορετικές πλήρεις ομάδες εκδηλώσεων. Ταυτόχρονα, τα συγκριτικά αποτελέσματα αποδεικνύονται ανεπαρκή ως προς τα πραγματικά στατιστικά δεδομένα. Αυτό οφείλεται στους ακόλουθους παράγοντες:
Χρησιμοποιείται λανθασμένη κανονικοποίηση.
Η παρουσία ή η απουσία διασταυρώσεων των θεωρούμενων αποδεικτικών στοιχείων δεν λαμβάνεται υπόψη.
Προκειμένου να εξαλειφθούν οι διαπιστωθείσες ελλείψεις, εντοπίζονται περιπτώσεις εφαρμογής του τύπου Bayes. Εάν ο καθορισμένος τύπος δεν είναι εφαρμόσιμος, επιλύεται το πρόβλημα της κατασκευής της τροποποίησής του, το οποίο διασφαλίζει ότι λαμβάνονται υπόψη διάφορα μεμονωμένα στοιχεία για τη λήψη σωστών αποτελεσμάτων. Με το παράδειγμα συγκεκριμένων αρχικών δεδομένων, πραγματοποιήθηκε συγκριτική αξιολόγηση των αποτελεσμάτων:
Λάθος - λήφθηκε χρησιμοποιώντας τον τύπο Bayes.
Σωστό - υπολογίζεται χρησιμοποιώντας την προτεινόμενη τροποποίηση.
Αρχικές θέσεις. Οι ακόλουθες δηλώσεις βασίζονται στην αρχή της διατήρησης των λόγων πιθανότητας: «Η σωστή επεξεργασία των πιθανοτήτων των γεγονότων είναι εφικτή μόνο κατά την κανονικοποίηση χρησιμοποιώντας έναν κοινό διαιρέτη κανονικοποίησης που διασφαλίζει την ισότητα των λόγων των κανονικοποιημένων πιθανοτήτων προς τους λόγους των αντίστοιχων κανονικοποιημένων πιθανότητες». Αυτή η αρχή αντιπροσωπεύει την υποκειμενική βάση της θεωρίας πιθανοτήτων, αλλά δεν αντικατοπτρίζεται σωστά στη σύγχρονη εκπαιδευτική και επιστημονική και τεχνική βιβλιογραφία.
Εάν παραβιαστεί αυτή η αρχή, οι πληροφορίες σχετικά με τον βαθμό πιθανότητας των υπό εξέταση γεγονότων παραποιούνται. Τα αποτελέσματα που προέκυψαν με βάση παραμορφωμένες πληροφορίες και οι αποφάσεις που ελήφθησαν αποδεικνύονται ανεπαρκή σε σχέση με τα πραγματικά στατιστικά δεδομένα.
Οι ακόλουθες έννοιες θα χρησιμοποιηθούν σε αυτό το άρθρο:
Ένα στοιχειώδες γεγονός είναι ένα γεγονός που δεν διαιρείται σε στοιχεία.
Συνδυασμένο γεγονός - ένα γεγονός που αντιπροσωπεύει έναν ή τον άλλο συνδυασμό στοιχειωδών γεγονότων.
Συμβατά γεγονότα - γεγονότα που σε ορισμένες περιπτώσεις συγκριτικής εκτίμησης των πιθανοτήτων τους μπορεί να είναι ασύμβατα και σε άλλες περιπτώσεις κοινά.
Ασυμβίβαστα συμβάντα είναι συμβάντα που είναι ασύμβατα σε όλες τις περιπτώσεις.
Σύμφωνα με το θεώρημα του πολλαπλασιασμού πιθανοτήτων, η πιθανότητα P (U ^ E) του γινομένου των στοιχειωδών γεγονότων U ^ και
Το Ε υπολογίζεται ως γινόμενο των πιθανοτήτων P(Uk E) = P(E)P(U^E) . Από αυτή την άποψη, η φόρμουλα Bayes είναι συχνά
γράφεται με τη μορφή Р(Ик\Е) = - - - , περιγράφοντας τον ορισμό των εκ των υστέρων υπό όρους πιθανοτήτων
P(U^E) των υποθέσεων Uk (k = 1,...n) με βάση την κανονικοποίηση των a priori πιθανοτήτων P(U^E) συνδυασμένων ασυμβίβαστων γεγονότων I έως E. Κάθε ένα από αυτά τα γεγονότα αντιπροσωπεύει ένα προϊόν του οποίου οι παράγοντες είναι μία από τις εξεταζόμενες υποθέσεις και ένα αποδεικτικό στοιχείο. Ταυτόχρονα, όλα εξετάζονται
uIKE συμβάντα (k = 1,...n) σχηματίζουν μια πλήρη ομάδα ασυμβίβαστων συνδυασμένων συμβάντων uIKE, λόγω
με τον οποίο οι πιθανότητες τους P(Ik E) θα πρέπει να κανονικοποιηθούν λαμβάνοντας υπόψη τον τύπο συνολικής πιθανότητας, σύμφωνα με τον οποίο
σμήνος P(E) = 2 P(Uk)P(E\Uk). Επομένως, ο τύπος Bayes γράφεται συχνότερα με την πιο συχνά χρησιμοποιούμενη μορφή:
P(Uik) P(EIK)
P(Uk \ E) \u003d -. (ένας)
^ κατιόν του τύπου Bayes.
th Ανάλυση των χαρακτηριστικών της κατασκευής του τύπου Bayes, με στόχο την επίλυση εφαρμοσμένων προβλημάτων, καθώς και παραδείγματα
«και η πρακτική εφαρμογή του μας επιτρέπει να βγάλουμε ένα σημαντικό συμπέρασμα σχετικά με την επιλογή μιας πλήρους ομάδας συνδυασμένων γεγονότων σε σύγκριση ως προς τον βαθμό πιθανότητας (καθένα από τα οποία είναι προϊόν δύο στοιχειωδών γεγονότων - μία από τις υποθέσεις και τα στοιχεία που λαμβάνονται υπόψη). Μια τέτοια επιλογή γίνεται υποκειμενικά από τον λήπτη της απόφασης, με βάση αντικειμενικά αρχικά δεδομένα που είναι εγγενή στις τυπικές συνθήκες της κατάστασης: τους τύπους και τον αριθμό των υποθέσεων που αξιολογούνται και τα στοιχεία που λαμβάνονται ειδικά υπόψη.
Ασύγκριτες πιθανότητες υποθέσεων με μεμονωμένα ασυνεπή στοιχεία. Ο τύπος Bayes χρησιμοποιείται παραδοσιακά στην περίπτωση του προσδιορισμού των μεταγενέστερων πιθανοτήτων υπό όρους που δεν είναι συγκρίσιμες ως προς το βαθμό πιθανότητας.
η πιθανότητα των υποθέσεων H^ με μεμονωμένα ασύμβατα στοιχεία, καθένα από τα οποία μπορεί να «εμφανιστεί
μόνο σε συνδυασμό με οποιαδήποτε από αυτές τις υποθέσεις. Σε αυτήν την περίπτωση, επιλέγονται πλήρεις ομάδες και HkE, συνδυάζονται
εκδηλώσεις μπάνιου με τη μορφή προϊόντων, οι παράγοντες των οποίων είναι ένα από τα στοιχεία του γ. (1=1,...,m) και ένα
από τις υπό εξέταση ν υποθέσεις.
Ο τύπος Bayes χρησιμοποιείται για μια συγκριτική αξιολόγηση των πιθανοτήτων συνδυασμένων γεγονότων κάθε τέτοιας πλήρους ομάδας, η οποία διαφέρει από άλλες πλήρεις ομάδες όχι μόνο στα στοιχεία που λαμβάνονται υπόψη, αλλά και στη γενική περίπτωση στους τύπους των υποθέσεων H ^ και (ή) τον αριθμό τους n (βλ., για παράδειγμα, )
RNky = P(Hk) P(eH)
% P(Hk) P(Er\Hk) k = 1
Σε ειδική περίπτωση για n = 2
RNk\E,~ P(Hk) P(EN)
% P(Hk) P(E,\H k) k = 1
και τα αποτελέσματα που προέκυψαν είναι σωστά, λόγω της τήρησης της αρχής της διατήρησης των λόγων πιθανότητας:
P(H1E,) _ P(H 1)P(E,\H1) / P(H2) P(E,\H2) = P(H 1) P(E,\H1)
P(H 2 = % PW1!)
Η υποκειμενικότητα της επιλογής μιας ολοκληρωμένης ομάδας συνδυασμένων γεγονότων σε σύγκριση ως προς το βαθμό δυνατότητας (με
ορισμένα μεταβλητά στοιχειώδη συμβάντα) σας επιτρέπει να επιλέξετε μια πλήρη ομάδα γεγονότων και Hk E ■ s
αναιρώντας το στοιχειώδες γεγονός E ■ () και γράψτε τον τύπο Bayes (1 = 1,.. ., m) ως εξής:
P(Hk \ E) -= - RNSh ±.
% P(Hk)P(E, Hk)
Ένας τέτοιος τύπος είναι επίσης εφαρμόσιμος και καθιστά δυνατή την απόκτηση των σωστών αποτελεσμάτων εάν υπολογίζεται να
οι κανονικοποιημένες πιθανότητες συγκρίνονται με βάση τις διάφορες υποθέσεις που εξετάζονται, αλλά όχι με διάφορες
αρχές. ¡^
Συγκρίσιμες πιθανότητες υποθέσεων κάτω από μεμονωμένα ασυνεπή στοιχεία. Αν κρίνουμε από το γνωστό publica-^
χρησιμοποιείται για μια συγκριτική αξιολόγηση των εκ των υστέρων υπό όρους πιθανοτήτων υποθέσεων για διάφορα μεμονωμένα στοιχεία.
αρχές. Ταυτόχρονα, δεν δίνεται προσοχή στο εξής γεγονός. Σε αυτές τις περιπτώσεις, συγκρίνονται οι κανονικοποιημένες ^ πιθανότητες ασυμβίβαστων (μη συμβατών) συνδυασμένων γεγονότων που ανήκουν σε διαφορετικές πλήρεις ομάδες n γεγονότων. Ωστόσο, σε αυτήν την περίπτωση, ο τύπος Bayes δεν ισχύει, αφού συγκρίνονται συνδυασμένα γεγονότα που δεν περιλαμβάνονται σε μια πλήρη ομάδα, η κανονικοποίηση των πιθανοτήτων των οποίων πραγματοποιείται χρησιμοποιώντας διαφορετικούς n κανονικοποιητικούς διαιρέτες. Οι κανονικοποιημένες πιθανότητες ασυμβίβαστων (μη συμβατών) συνδυασμένων γεγονότων μπορούν να συγκριθούν μόνο εάν ανήκουν στην ίδια πλήρη ομάδα γεγονότων και κανονικοποιούνται κατά ¡3 χρησιμοποιώντας έναν κοινό διαιρέτη ίσο με το άθροισμα των πιθανοτήτων όλων των κανονικοποιημένων γεγονότων που περιλαμβάνονται στην πλήρη §
Γενικά, τα ακόλουθα μπορούν να θεωρηθούν ασύμβατα στοιχεία:
Δύο στοιχεία (για παράδειγμα, στοιχεία και η άρνησή τους). ^
Τρία στοιχεία (για παράδειγμα, σε μια κατάσταση παιχνιδιού, νίκη, ήττα και ισοπαλία). ^
Τέσσερις μαρτυρίες (ιδιαίτερα σε αθλήματα, νίκη, ήττα, ισοπαλία και επανάληψη) κ.λπ. ^
Εξετάστε ένα αρκετά απλό παράδειγμα (που αντιστοιχεί στο παράδειγμα που δίνεται στο ) εφαρμογής του τύπου Bayes ^ για τον προσδιορισμό των μεταγενέστερων πιθανοτήτων υπό όρους της υπόθεσης H ^ για δύο ασύμβατα συμβάντα στο
με τη μορφή αποδείξεων L]- και η άρνησή τους L]
P(H, k) - ^ . ^ P(A^k" , (2)
] E P(Hk> P(A]\vk> k - 1
■ _ P(HkA ]) P(Hk> P(A ]\nk>
Ρ(Η,\Α,) ----k-]-. (3)
V k\A]> P(A > n
] E P(Hk) P(A]\Hk) k -1
Στις περιπτώσεις (2) και (3), υποκειμενικά επιλεγμένες πλήρεις ομάδες συγκρίθηκαν ως προς το βαθμό πιθανότητας
binned συμβάντα είναι, αντίστοιχα, τα σύνολα και H σε A και και H σε A. Αυτό συμβαίνει όταν ο τύπος
k-1 k ] k-1 k ]
Το Bayes δεν εφαρμόζεται, καθώς παραβιάζεται η αρχή της διατήρησης των λόγων πιθανοτήτων - δεν τηρείται η ισότητα των λόγων των κανονικοποιημένων πιθανοτήτων προς τους λόγους των αντίστοιχων κανονικοποιημένων πιθανοτήτων:
P(H έως A]] P(Hk) P(A]\Hk) / P(Hk) P(A]\Hk) P(Hk) P(A] Hk)
P(Hk E P(Hk) P(A]\Hk)/ E P(Hk) P(A]\Hk) P(Hk) P(A] Hk)
k - 1 /k - 1 Σύμφωνα με την αρχή της διατήρησης των λόγων πιθανότητας, η σωστή επεξεργασία των πιθανοτήτων γεγονότων είναι εφικτή μόνο όταν κανονικοποιείται χρησιμοποιώντας έναν κοινό διαιρέτη κανονικοποίησης ίσο με το άθροισμα όλων των συγκριμένων κανονικοποιημένων παραστάσεων. Να γιατί
E P(Hk)P(A]\Hk) + E P(Hk)P(A]\Hk) - E P(Hk)[P(A]\Hk) + P(Hk) P(A]\Hk )] - ΕΡ (Hk) - 1. έως -1 έως -1 έως -1 έως -1
Έτσι, αποκαλύπτεται το γεγονός ότι υπάρχουν ποικιλίες της φόρμουλας Bayes που διαφέρουν από
γνωστό για την έλλειψη κανονικοποιητικού διαιρέτη:
Α,) - Ρ(Η) Ρ(Α]\Ηκ), Ρ(Ηκ Α,) - Ρ(Η) Ρ(Α, Ηκ). (τέσσερα)
J προς Ι ■> να
Στην περίπτωση αυτή, παρατηρείται η ισότητα των λόγων των κανονικοποιημένων πιθανοτήτων προς τους λόγους των αντίστοιχων κανονικοποιημένων πιθανοτήτων:
m^A^ P(Hk) P(A]\Hk)
A,) P(H k) P(A, Hk)
Με βάση την υποκειμενική επιλογή μη παραδοσιακά καταγεγραμμένων πλήρων ομάδων ασυμβίβαστων συνδυασμένων γεγονότων, είναι δυνατό να αυξηθεί ο αριθμός των τροποποιήσεων του τύπου Bayes που περιλαμβάνουν στοιχεία, καθώς και τον έναν ή τον άλλο αριθμό αρνήσεων τους. Για παράδειγμα, η πιο ολοκληρωμένη ομάδα συνδυασμένων εκδηλώσεων
u και Hk /"./ ^ u και Hk E\ αντιστοιχεί (λαμβάνοντας υπόψη την απουσία κανονικοποιητικού διαιρέτη) τον τύπο τροποποίησης =1 A"=1; \u003d 1 Bayesian
P(Hk\~) - P(Hk) ПЁ^^^
όπου ένα στοιχειώδες γεγονός με τη μορφή αποδείξεων E \ e II II / "/ είναι ένα από τα στοιχεία του υποδεικνυόμενου συνόλου
o Ελλείψει αρνήσεων αποδείξεων, δηλαδή όταν E\ \u003d // e και /"./,
^ P(H\E) P(Hk) P(E,\Hk)
E P(Hk) P(E \ Hk) k - 1
Έτσι, η τροποποίηση του τύπου Bayes, που αποσκοπεί στον προσδιορισμό των υπό όρους πιθανοτήτων των υποθέσεων που συγκρίνονται ως προς τον βαθμό πιθανότητας για μεμονωμένα ασύμβατα στοιχεία, έχει ως εξής. Ο αριθμητής περιέχει την κανονικοποιημένη πιθανότητα ενός από τα συνδυασμένα ασύμβατα συμβάντα που σχηματίζουν μια πλήρη ομάδα, εκφραζόμενη ως γινόμενο εκ των προτέρων πιθανοτήτων και ο παρονομαστής περιέχει το άθροισμα όλων
κανονικοποιημένες πιθανότητες. Ταυτόχρονα, τηρείται η αρχή της διατήρησης των αναλογιών των πιθανοτήτων - και το αποτέλεσμα που προκύπτει είναι σωστό.
Πιθανότητες υποθέσεων κάτω από μεμονωμένα συμβατά στοιχεία. Οι Μπεϋζιανοί τύποι χρησιμοποιούνται παραδοσιακά για τον προσδιορισμό των μεταγενέστερων εξαρτημένων πιθανοτήτων των υποθέσεων Hk (k = 1,...,n) σε σύγκριση ως προς τον βαθμό πιθανότητας για ένα από τα πολλά θεωρούμενα συμβατά στοιχεία EL (1 = 1,... ,Μ). Ειδικότερα (βλ
για παράδειγμα, και ), κατά τον προσδιορισμό των εκ των υστέρων πιθανοτήτων υπό όρους Р(Н 1Е^) και Р(Н 1 Е2) για καθεμία από τις δύο συμβατές αποδείξεις Ε1 και Ε2, χρησιμοποιούνται τύποι της μορφής:
P(H 1) PE\H1) P(Hj) P(E2Hj) P(H J E1) = --1-και P(H J E 2) =--1-. (5)
I P(Hk) PE\Hk) I P(Hk) P(E2 Hk)
k = 1 k = 1 Σημειώστε ότι αυτή είναι μια άλλη περίπτωση όπου ο τύπος Bayes δεν ισχύει. Επιπλέον, σε αυτή την περίπτωση, δύο ελλείψεις πρέπει να εξαλειφθούν:
Η εικονογραφημένη κανονικοποίηση των πιθανοτήτων συνδυασμένων γεγονότων είναι λανθασμένη, λόγω του ότι ανήκουν σε διαφορετικές πλήρεις ομάδες των υπό εξέταση γεγονότων.
Οι συμβολικές εγγραφές των συνδυασμένων γεγονότων HkEx και HkE2 δεν αντικατοπτρίζουν το γεγονός ότι τα θεωρούμενα στοιχεία E x και E 2 είναι συμβατά.
Για να εξαλειφθεί το τελευταίο μειονέκτημα, μπορεί να χρησιμοποιηθεί μια πιο λεπτομερής καταγραφή των συνδυασμένων γεγονότων, λαμβάνοντας υπόψη το γεγονός ότι τα συμβατά στοιχεία E1 και E2 σε ορισμένες περιπτώσεις μπορεί να είναι ασύμβατα και σε άλλες από κοινού:
HkE1 = HkE1 E2 και HkE2 = HkE 1E2+HkE1 E2, όπου τα E1 και E 2 είναι στοιχεία αντίθετα από τα E1 και E 2.
Είναι προφανές ότι σε τέτοιες περιπτώσεις το γινόμενο των γεγονότων Hk E1E2 λαμβάνεται δύο φορές υπόψη. Επιπλέον, μπορεί να ληφθεί και πάλι υπόψη ξεχωριστά, αλλά αυτό δεν συμβαίνει. Το γεγονός είναι ότι στην υπό εξέταση κατάσταση, η αξιολογούμενη κατάσταση επηρεάζεται από τρία πιθανά ασύμβατα συνδυασμένα συμβάντα: HkE1E2, HkE 1E2 και
Hk E1E2. Ταυτόχρονα, για τον λήπτη της απόφασης, ενδιαφέρει να εκτιμήσει μόνο τον βαθμό δυνατότητας
δύο ασύμβατα συνδυασμένα συμβάντα: HkE1 E2 και HkE 1E2, που αντιστοιχεί στη λήψη μόνο g
μεμονωμένα στοιχεία. ΝΤΟ
Έτσι, κατά την κατασκευή μιας τροποποίησης του τύπου Bayes για τον προσδιορισμό των εκ των υστέρων συνθηκών τιμών,
Η πιθανότητα υποθέσεων με μεμονωμένα συμβατά στοιχεία πρέπει να βασίζεται στα ακόλουθα. Άτομο που δέχεται ^
απόφαση, μας ενδιαφέρει ακριβώς ποιο στοιχειώδες γεγονός, που αντιπροσωπεύεται από ένα ή άλλο αποδεικτικό στοιχείο
ο αριθμός που θεωρείται ότι όντως συνέβη σε συγκεκριμένες συνθήκες. Εάν συμβεί άλλο στοιχειώδες γεγονός στο Κ
με τη μορφή ενιαίου πιστοποιητικού απαιτείται επανεξέταση της απόφασης, λόγω των αποτελεσμάτων συγκριτικής αξιολόγησης του ν.
εκ των υστέρων υπό όρους πιθανότητες υποθέσεων με την απαραίτητη εξέταση άλλων συνθηκών που επηρεάζουν την πραγματική γενική
σύνθεση. 3
Ας εισαγάγουμε τον ακόλουθο συμβολισμό: HkE- για ένα (και μόνο ένα) ασύμβατο συνδυασμένο συν- ^
είναι, το οποίο συνίσταται στο γεγονός ότι από το m > 1 θεωρούνται στοιχειώδη γεγονότα Ei (i = 1,...,m) μαζί με την υπόθεση «
Hk, συνέβη ένα στοιχειώδες γεγονός Ex και δεν συνέβησαν άλλα στοιχειώδη γεγονότα. δες"
Στην απλούστερη περίπτωση, εξετάζονται δύο μεμονωμένα ασυμβίβαστα στοιχεία. Εάν επιβεβαιωθεί
ένα από αυτά αναμένεται, η υπό όρους πιθανότητα αποδεικτικών στοιχείων σε γενική μορφή εκφράζεται με τον τύπο l
P(Hk E-) = P(Ei\Hk) -P(EjE^Hk) = P(Ei\Hk) -P(M^Hk)P(M^Hk) , i = 1, -2 (6) σολ
Η εγκυρότητα του τύπου φαίνεται ξεκάθαρα (Εικ. 1).
Ρύζι. 1. Γεωμετρική ερμηνεία του υπολογισμού του P(Hk E-) για / = 1,...,2 Με ανεξάρτητες υπό όρους στοιχεία
P(K1K2\Hk) = p(E\Hk)P(E2\Hk),
επομένως, λαμβάνοντας υπόψη (6)
P(Hk E-) = PE Hk) - P(E1 Hk) P(E21Hk) = 1,.,2. (7)
Ομοίως, η πιθανότητα P(HkE-) ενός από τα τρία (/ = 1,...,3) ασύμβατα γεγονότα HkE^ εκφράζεται με τον τύπο
Για παράδειγμα, για i = 1:
p(HkEl) = P(Ei\Hk)-[ S P(Ei\Hk)P(Ej\Hk) ] + P(EiE2E3Hk)
p(HkE-) = P(E7|Hk)- P(E]E^Hk)- P(E7EjHk) + P(E]E2E3\Hk)
Η εγκυρότητα αυτού του τύπου επιβεβαιώνεται σαφώς από τη γεωμετρική ερμηνεία που παρουσιάζεται στο Σχ.
Ρύζι. 2. Γεωμετρική ερμηνεία του υπολογισμού του P(Hk E-) για / = 1,...,3
Χρησιμοποιώντας τη μέθοδο της μαθηματικής επαγωγής, μπορεί κανείς να αποδείξει τον γενικό τύπο για την πιθανότητα P(Hk E-) για οποιοδήποτε αριθμό απόδειξης e, 0=1,...,m):
P(HkE-) = P(E, Hk) - m PE\Hk) P(E]\Hk) + 1 P(E\Hk) P(E]\Hk) P(E^Hk) + ■■■ + (-1)
] = 1(] * 0 ],1 * 1
Χρησιμοποιώντας το θεώρημα πολλαπλασιασμού πιθανοτήτων, γράφουμε την υπό συνθήκη πιθανότητα Р(НкЕ~-) σε δύο μορφές:
^ από το οποίο προκύπτει ότι
P(Hk E -) = P(Hk) P(E-|Hk) = P(E-) P(Hk
E-)= P(HkE-) "" P(E-)
Χρησιμοποιώντας τον τύπο συνολικής πιθανότητας P(Ei) = S P(H£) P(Ei Hk) αποδεικνύεται ότι
E-) \u003d P (HkET)
2 P(HkE-) k \u003d 1
Αντικαθιστώντας στον προκύπτον τύπο τις εκφράσεις για το Р(НкЕ-) με τη μορφή της δεξιάς πλευράς του (8), λαμβάνουμε την τελική μορφή του τύπου για τον προσδιορισμό των εκ των υστέρων υπό όρους πιθανοτήτων των υποθέσεων H^ (k = 1, ...,n) για ένα από τα πολλά θεωρούμενα ασυμβίβαστα μεμονωμένα στοιχεία : (E^\Hk)
P(Hk)[P(E,\Hk) - 2 P(E,\Hk) P(Ep k) +...+ (-1)m-1 P(P P(Erk)] P(H, E ~) =-] = 1(] * ■----(9)
k 1 p t t t
2 P(Hk) 2 [P(E,\Hk) - 2 P(EgHk) P(E^Hk) + ...+ (-1)m-1 P(P P (Ep k)]
k=1 , = 1 ) = 1() *,) ■! =1
Συγκριτικές εκτιμήσεις. Εξετάζονται αρκετά απλά αλλά επεξηγηματικά παραδείγματα, τα οποία περιορίζονται στην ανάλυση των υπολογισμένων οπισθίων υπό όρους πιθανοτήτων μιας από τις δύο υποθέσεις με δύο μεμονωμένα στοιχεία. 1. Πιθανότητες υποθέσεων κάτω από ασυμβίβαστα μεμονωμένα στοιχεία. Ας συγκρίνουμε τα αποτελέσματα που ελήφθησαν χρησιμοποιώντας τους τύπους Bayes (2) και (3), χρησιμοποιώντας το παράδειγμα δύο αποδείξεων L. = L και L. = L με τα αρχικά δεδομένα:
P(H1 = 0,7, P(H2) = 0,3, P(L| H^ = 0,1, P(L\n 1) = 0,9, P(L\H2) = 0,6 P(A\H2) = 0,4 Εξεταζόμενα παραδείγματα με την υπόθεση Η1, οι παραδοσιακοί τύποι (2) και (3) οδηγούν στα ακόλουθα αποτελέσματα:
P(N.) P(A\No 0 07
P (N, L) \u003d - 11 \u003d - \u003d 0,28,
2 P(Hk) P(A\Hk)k = 1
R(N L R(A\N 1) 0 63
P (N, L) \u003d - 11 \u003d - \u003d 0,84,
2 P(Hk) P(A\Hk) k = 1
σχηματίζοντας διαιρέσεις P (H 1 L) \u003d P (H ^ P (L \ Hp \u003d 0,07; P (H ^ A) \u003d P (H 1) P (n | H ^ \u003d 0,63. 1 από τα προτεινόμενα τύπους σε σχέση με:
R<Н)Р(АНА-Р(А|Н1) _ 0,07
και με τους προτεινόμενους τύπους (4) που δεν έχουν κανονικοποιητικούς διαιρέτες: «και
Έτσι, στην περίπτωση εφαρμογής των προτεινόμενων τύπων, ο λόγος των κανονικοποιημένων πιθανοτήτων είναι ίσος με τον λόγο των κανονικοποιημένων πιθανοτήτων: Κ
rm f P(H 1) P(A\H 1) A11 |
Όταν χρησιμοποιείτε γνωστούς τύπους με την ίδια αναλογία -;-=-= 0,11 κανονικοποιημένα βερόνια
P(H 1) P(A\H 1) Ǥ
αναλογίες που υποδεικνύονται στους αριθμητές, ο λόγος των κανονικοποιημένων πιθανοτήτων που προκύπτουν: 2
Ρ(Η 1) Ρ(Α\Η 1) Ρ(Α\Η 1) 0,63
P (H1 L) \u003d 0,28 P (H 1 L) \u003d 0,84
Δηλαδή, δεν τηρείται η αρχή της διατήρησης των λόγων πιθανότητας και προκύπτουν εσφαλμένα αποτελέσματα. Σε αυτή την περίπτωση, £
στην περίπτωση εφαρμογής γνωστών τύπων, η τιμή της σχετικής απόκλισης του λόγου (11) των εκ των υστέρων υπό όρους και υπό όρους πιθανοτήτων των υποθέσεων από τα σωστά αποτελέσματα (10) αποδεικνύεται πολύ σημαντική, καθώς είναι
°, 33 - °, P x 100 \u003d 242%.. I
2. Πιθανότητες υποθέσεων κάτω από συμβατά μεμονωμένα στοιχεία. Ας συγκρίνουμε τα αποτελέσματα που ελήφθησαν χρησιμοποιώντας τους τύπους Bayes (5) και την κατασκευασμένη σωστή τροποποίηση (9), χρησιμοποιώντας τα ακόλουθα αρχικά δεδομένα:
P(H1 = 0,7, P(H2) = 0,3, P(E1H1) = 0,4, P(E2H1) = 0,8, P(E1\H2) = 0,7, P(E^ H2) = 0,2,113
Στα παραδείγματα που εξετάζονται με την υπόθεση H 2 στην περίπτωση χρήσης παραδοσιακών τύπων (5):
Ρ(Η 2) Ρ(Ε1 Η 2) Q, 21
P(H 2 E1) =-2-!-2- = - = Q,429,
p(Hk) p(El Hk) k = 1
Ρ(Η2) Ρ(Ε2Η2) Q,Q6
P(H 2 E 2) \u003d -2-- \u003d - \u003d 0,097.
I P(Hk) P(E 2 Hk) k = 1
Στην περίπτωση εφαρμογής του προτεινόμενου τύπου (9), λαμβάνοντας υπόψη το (7), P(H
Ρ(Η2) 0,168
Ε.) ----- 0,291,
Z P(Hk) Z "
Ρ(Η2) 0,018
Ε0) ----- 0,031.
Z P(Hk) Z k - 1 i - 1
Όταν χρησιμοποιείτε τους προτεινόμενους σωστούς τύπους, λόγω των ίδιων παρονομαστών, ο λόγος P(H2) -
Οι κανονικοποιημένες πιθανότητες, που υποδεικνύονται στους αριθμητές, είναι ίσες με την αναλογία
P(H2)
κανονικοποιημένες πιθανότητες:
Δηλαδή τηρείται η αρχή της διατήρησης των λόγων πιθανότητας.
Ωστόσο, στην περίπτωση εφαρμογής γνωστών τύπων με την αναλογία των κανονικοποιημένων πιθανοτήτων που υποδεικνύονται στους αριθμητές
P (H 2) P (E1 \ H 2) _ 0,21 _3 5 P (H 2) P (E 2 H 2) 0,06,
αναλογία κανονικοποιημένων πιθανοτήτων:
P (H 2 \u003d 0,429 \u003d 4,423. (13)
Ρ(Η2 \e2) 0,097
Δηλαδή, η αρχή της διατήρησης των λόγων πιθανότητας, όπως και πριν, δεν τηρείται. Στην περίπτωση αυτή, στην περίπτωση εφαρμογής των γνωστών τύπων, η τιμή της σχετικής απόκλισης του λόγου (13) των εκ των υστέρων υπό όρους πιθανοτήτων των υποθέσεων από τα σωστά αποτελέσματα (12) αποδεικνύεται επίσης πολύ σημαντική:
9,387 4,423 x 100 = 52,9%.
Συμπέρασμα. Μια ανάλυση της κατασκευής συγκεκριμένων σχέσεων τύπου που εφαρμόζουν τον τύπο Bayes και τις τροποποιήσεις του, που προτείνονται για την επίλυση πρακτικών προβλημάτων, μας επιτρέπει να αναφέρουμε τα ακόλουθα. Η πλήρης ομάδα των συγκρίσιμων 2 πιθανών συνδυασμένων γεγονότων μπορεί να επιλεγεί υποκειμενικά από τον υπεύθυνο λήψης αποφάσεων. Αυτή η επιλογή βασίζεται στα θεωρούμενα αντικειμενικά αρχικά δεδομένα, χαρακτηριστικά μιας τυπικής κατάστασης (συγκεκριμένοι τύποι και αριθμός στοιχειωδών γεγονότων - εκτιμώμενες υποθέσεις και στοιχεία). Πρακτικό ενδιαφέρον παρουσιάζει η υποκειμενική επιλογή άλλων επιλογών της πλήρους ομάδας σε σύγκριση ως προς το βαθμό δυνατότητας.
συνδυασμένα γεγονότα - έτσι, παρέχεται μια σημαντική ποικιλία αναλογιών τύπου κατά την κατασκευή μη παραδοσιακών παραλλαγών τροποποιήσεων του τύπου Bayes. Αυτό, με τη σειρά του, μπορεί να αποτελέσει τη βάση για τη βελτίωση της μαθηματικής υποστήριξης της εφαρμογής λογισμικού, καθώς και για την επέκταση του πεδίου εφαρμογής νέων σχέσεων τύπου για την επίλυση εφαρμοζόμενων προβλημάτων.
Βιβλιογραφικός κατάλογος
1. Gnedenko, B. V. Μια στοιχειώδης εισαγωγή στη θεωρία των πιθανοτήτων / B. V. Gnedenko, A. Ya. Khinchin. - 114 New York: Dover Publications, 1962. - 144 ρούβλια.
2. Venttsel, E. S. Θεωρία πιθανοτήτων / E. S. Venttsel. - 10η έκδ., σβησμένο. - Μόσχα: Ανώτατο Σχολείο, 2006. - 575 σελ.
3. Andronov. A. M., Θεωρία πιθανοτήτων και μαθηματική στατιστική / A. M. Andronov, E. A. Kopytov, L. Ya. Gringlaz. - Αγία Πετρούπολη: Peter, 2004. - 481 p.
4. Zmitrovich, A. I. Ευφυή πληροφοριακά συστήματα / A. I. Zmitrovich. - Μινσκ: TetraSistems, 1997. - 496 σελ.
5. Chernorutsky, I. G. Μέθοδοι λήψης αποφάσεων / I. G. Chernorutsky. - Αγία Πετρούπολη: BHV-Petersburg, 2005. - 416 σελ.
6 Naylor, C.-M. Δημιουργήστε το δικό σας ειδικό σύστημα / C.-M. Naylor. - Chichester: John Wiley & Sons, 1987. - 289 σελ.
7. Romanov, V.P. Ευφυή πληροφοριακά συστήματα στην οικονομία / V.P. Romanov. - 2η έκδ., σβησμένο.
Μόσχα: Εξέταση, 2007. - 496 σελ.
8. Οικονομική αποτελεσματικότητα και ανταγωνιστικότητα / D. Yu. Muromtsev [και άλλοι]. - Tambov: Εκδοτικός Οίκος Tambov. κατάσταση τεχν. un-ta, 2007.- 96 p.
9. Dolgov, A. I. Σωστές τροποποιήσεις του τύπου Bayes για παράλληλο προγραμματισμό / A. I. Dolgov // Τεχνολογίες υπερυπολογιστών: υλικά του 3ου All-Russian. επιστημονικό-τεχνικό συνδ. - Ροστόφ-ον-Ντον. - 2014.- Τόμος 1 - Σ. 122-126.
10. A. I. Dolgov, On the correctness of modifications of the Bayes formula / A. I. Dolgov, Vestnik Don. κατάσταση τεχν. πανεπιστήμιο
2014. - V. 14, No. 3 (78). - Σ. 13-20.
1. Gnedenko, B.V., Khinchin, A.Ya. Μια στοιχειώδης εισαγωγή στη θεωρία των πιθανοτήτων. New York: Dover Publications, 1962, 144 p.
2 Βέντσελ, Ε.Σ. Teoriya veroyatnostey. 10η έκδ., reimpr. Μόσχα: Vysshaya shkola, 2006, 575 σελ. (στα ρώσικα).
3. Andronov, A.M., Kopytov, E.A., Gringlaz, L.Y. Teoriya veroyatnostey και matematicheskaya statistika. Αγία Πετρούπολη: Piter, 2004, 481 p. (στα ρώσικα).
4. Ζμίτροβιτς, Α.1. Intellektual "nye informatsionnye sistemy. Minsk: TetraSistems, 1997, 496 σ. (στα ρωσικά).
5. Chernorutskiy, I.G. Μεθοδολογία prinyatiya resheniy. Αγία Πετρούπολη: BKhV-Peterburg, 2005, 416 p. (στα ρώσικα).
6 Naylor, C.-M. Δημιουργήστε το δικό σας έμπειρο σύστημα. Chichester: John Wiley & Sons, 1987, 289 p.
7. Romanov, V.P. Intellektual "nye informatsionnye sistemy v ekonomike. 2nd ed., reimpr. Moscow: Ekzamen, 2007, 496 p. (στα ρωσικά).
8. Muromtsev, D.Y., et al. Οικονομικά αποτελεσματικά" και κονκουρεντόσπομπνοστ". Tambov: Izd-vo Tamb. πάει. τεχνολογία un-ta, 2007, 96 p. (στα ρώσικα). ΙΒ
9. Dolgov, Α1. Korrektnye modifikatsii formuly Bayesa dlya παράλληλη "nogo programmirovaniya. Superkomp" yuternye tekhnologii: mat-ly 3-y vseros. επιστημονικο-τεχν. συνδ. Rostov-on-Don, 2014, τόμ. 1, σελ. 122-126 (στα ρωσικά). ^
10. Dolgov, Α1. O korrektnosti modifikatsiy formuly Bayesa. ^ Vestnik of DSTU, 2014, τομ. 14, αρ. 3 (78), σελ. 13-20 (στα ρωσικά). *
Ποιος είναι ο Bayes; Και τι σχέση έχει με τη διαχείριση; – μπορεί να ακολουθήσει μια αρκετά δίκαιη ερώτηση. Προς το παρόν, πάρτε το λόγο μου: αυτό είναι πολύ σημαντικό! .. και ενδιαφέρον (τουλάχιστον για μένα).
Σε ποιο παράδειγμα λειτουργούν οι περισσότεροι μάνατζερ: αν παρατηρήσω κάτι, τι συμπεράσματα μπορώ να βγάλω από αυτό; Τι διδάσκει ο Bayes: τι πρέπει να είναι στην πραγματικότητα για να παρατηρήσω αυτό το κάτι; Έτσι εξελίσσονται όλες οι επιστήμες και γράφει για αυτό (παραθέτω από μνήμης): ένας άνθρωπος που δεν έχει μια θεωρία στο κεφάλι του, θα αποφύγει τη μια ιδέα στην άλλη υπό την επίδραση διαφόρων γεγονότων (παρατηρήσεις). Όχι για τίποτα λένε: δεν υπάρχει τίποτα πιο πρακτικό από μια καλή θεωρία.
Ένα παράδειγμα από την πρακτική. Ο υφιστάμενός μου κάνει λάθος και ο συνάδελφός μου (ο επικεφαλής άλλου τμήματος) λέει ότι θα ήταν απαραίτητο να ασκηθεί διευθυντική επιρροή στον αμελή υπάλληλο (με άλλα λόγια, τιμωρία / επίπληξη). Και ξέρω ότι αυτός ο υπάλληλος κάνει 4-5 χιλιάδες του ίδιου τύπου πράξεις το μήνα, και κατά τη διάρκεια αυτής της περιόδου δεν κάνει περισσότερα από 10 λάθη. Νιώθετε τη διαφορά στο παράδειγμα; Ο συνάδελφός μου αντιδρά στην παρατήρηση και γνωρίζω εκ των προτέρων ότι ένας υπάλληλος κάνει έναν συγκεκριμένο αριθμό λαθών, επομένως ένα άλλο δεν επηρέασε αυτή τη γνώση... Τώρα, αν στο τέλος του μήνα αποδειχθεί ότι υπάρχουν, για Για παράδειγμα, 15 τέτοια σφάλματα! .. Αυτό θα γίνει ήδη λόγος για τη διερεύνηση των αιτιών της μη συμμόρφωσης με τα πρότυπα.
Είστε πεπεισμένοι για τη σημασία της Μπεϋζιανής προσέγγισης; Ενδιαφέρεστε; Ελπίζω". Και τώρα μια μύγα στην αλοιφή. Δυστυχώς, οι μπεϋζιανές ιδέες σπάνια δίνονται με την πρώτη κίνηση. Ήμουν ειλικρινά άτυχος, καθώς γνώρισα αυτές τις ιδέες μέσα από τη λαϊκή λογοτεχνία, μετά την ανάγνωση της οποίας παρέμειναν πολλές ερωτήσεις. Όταν σχεδίαζα να γράψω μια σημείωση, συγκέντρωσα όλα όσα είχα περιγράψει προηγουμένως σύμφωνα με τον Bayes, και επίσης μελέτησα τι γράφουν στο Διαδίκτυο. Σας παρουσιάζω την καλύτερη εικασία μου για το θέμα. Εισαγωγή στη Μπεϋζιανή πιθανότητα.
Παραγωγή του θεωρήματος του Bayes
Εξετάστε το ακόλουθο πείραμα: ονομάζουμε οποιονδήποτε αριθμό βρίσκεται στο τμήμα και διορθώνουμε πότε αυτός ο αριθμός είναι, για παράδειγμα, μεταξύ 0,1 και 0,4 (Εικ. 1α). Η πιθανότητα αυτού του γεγονότος είναι ίση με τον λόγο του μήκους του τμήματος προς το συνολικό μήκος του τμήματος, με την προϋπόθεση ότι η εμφάνιση αριθμών στο τμήμα ισοπιθανος. Μαθηματικά, αυτό μπορεί να γραφτεί Π(0,1 <= Χ <= 0,4) = 0,3, или кратко R(Χ) = 0,3, όπου R- πιθανότητα, Χείναι μια τυχαία μεταβλητή στο εύρος, Χείναι μια τυχαία μεταβλητή στο εύρος . Δηλαδή, η πιθανότητα να χτυπήσει το τμήμα είναι 30%.
Ρύζι. 1. Γραφική ερμηνεία πιθανοτήτων
Τώρα θεωρήστε το τετράγωνο x (Εικ. 1β). Ας πούμε ότι πρέπει να ονομάσουμε ζεύγη αριθμών ( Χ, y), καθένα από τα οποία είναι μεγαλύτερο από μηδέν και μικρότερο από ένα. Η πιθανότητα ότι Χ(πρώτος αριθμός) θα βρίσκεται εντός του τμήματος (μπλε περιοχή 1), ίση με την αναλογία του εμβαδού της μπλε περιοχής προς την περιοχή ολόκληρου του τετραγώνου, δηλαδή (0,4 - 0,1 ) * (1 - 0) / (1 * 1) = 0, 3, δηλαδή το ίδιο 30%. Η πιθανότητα ότι yείναι εντός του τμήματος (πράσινη περιοχή 2) ισούται με την αναλογία της περιοχής πρασίνου προς την περιοχή ολόκληρης της πλατείας Π(0,5 <= y <= 0,7) = 0,2, или кратко R(Υ) = 0,2.
Τι μπορεί να μάθει για τις αξίες ταυτόχρονα Χκαι y. Για παράδειγμα, ποια είναι η πιθανότητα και τα δύο Χκαι yβρίσκονται στα αντίστοιχα δεδομένα τμήματα; Για να γίνει αυτό, πρέπει να υπολογίσετε την αναλογία της περιοχής του τομέα 3 (η τομή των πράσινων και μπλε λωρίδων) προς την περιοχή ολόκληρου του τετραγώνου: Π(Χ, Υ) = (0,4 – 0,1) * (0,7 – 0,5) / (1 * 1) = 0,06.
Τώρα ας υποθέσουμε ότι θέλουμε να μάθουμε ποια είναι η πιθανότητα αυτό yβρίσκεται στο διάστημα αν Χβρίσκεται ήδη στην περιοχή. Δηλαδή, στην πραγματικότητα, έχουμε ένα φίλτρο και όταν καλούμε ζεύγη ( Χ, y), τότε αμέσως απορρίπτουμε εκείνα τα ζεύγη που δεν ικανοποιούν την προϋπόθεση για εύρεση Χσε ένα δεδομένο διάστημα, και στη συνέχεια από τα φιλτραρισμένα ζεύγη μετράμε αυτά για τα οποία yικανοποιεί την κατάστασή μας και θεωρούμε την πιθανότητα ως την αναλογία του αριθμού των ζευγών για τα οποία yβρίσκεται στο παραπάνω τμήμα του συνολικού αριθμού φιλτραρισμένων ζευγών (δηλαδή για τα οποία Χβρίσκεται στο τμήμα). Μπορούμε να γράψουμε αυτή την πιθανότητα ως Π(Υ|Χ στο Χχτύπησε στο βεληνεκές». Προφανώς, αυτή η πιθανότητα είναι ίση με την αναλογία της περιοχής 3 προς την περιοχή της μπλε περιοχής 1. Η περιοχή της περιοχής 3 είναι (0,4 - 0,1) * (0,7 - 0,5) = 0,06, και η περιοχή της μπλε περιοχής 1 ( 0,4 - 0,1) * (1 - 0) = 0,3, τότε η αναλογία τους είναι 0,06 / 0,3 = 0,2. Με άλλα λόγια, η πιθανότητα εύρεσης yστο τμήμα, υπό την προϋπόθεση ότι Χανήκει στο τμήμα Π(Υ|Χ) = 0,2.
Στην προηγούμενη παράγραφο, στην πραγματικότητα διατυπώσαμε την ταυτότητα: Π(Υ|Χ) = Π(Χ, Υ) /Π( Χ). Αναφέρει: «πιθανότητα χτυπήματος στοστο εύρος, υπό την προϋπόθεση ότι Χτο χτύπημα στο εύρος είναι ίσο με την αναλογία της πιθανότητας ταυτόχρονου χτυπήματος Χσε εμβέλεια και στοστην εμβέλεια, στην πιθανότητα να χτυπήσει Χστην περιοχή».
Κατ' αναλογία, εξετάστε την πιθανότητα Π(Χ|Υ). Καλούμε ζευγάρια Χ, y) και φιλτράρετε αυτά για τα οποία yβρίσκεται μεταξύ 0,5 και 0,7, τότε η πιθανότητα ότι Χβρίσκεται στο τμήμα υπό τον όρο ότι yανήκει στο τμήμα ισούται με την αναλογία της περιοχής της περιοχής 3 προς την περιοχή της πράσινης περιοχής 2: Π(Χ|Υ) = Π(Χ, Υ) / Π(Υ).
Σημειώστε ότι οι πιθανότητες Π(Χ, Υ) και Π(Υ, Χ) είναι ίσα, και τα δύο είναι ίσα με την αναλογία του εμβαδού της ζώνης 3 προς το εμβαδόν ολόκληρου του τετραγώνου, αλλά οι πιθανότητες Π(Υ|Χ) και Π(Χ|Υ) όχι ίσο. ενώ η πιθανότητα Π(Υ|Χ) ισούται με την αναλογία του εμβαδού της περιοχής 3 προς την περιοχή 1 και Π(Χ|Υ) – τομέας 3 στον τομέα 2. Σημειώστε επίσης ότι Π(Χ, Υ) συχνά υποδηλώνεται ως Π(Χ&Υ).
Έχουμε λοιπόν δύο ορισμούς: Π(Υ|Χ) = Π(Χ, Υ) /Π( Χ) και Π(Χ|Υ) = Π(Χ, Υ) / Π(Υ)
Ας ξαναγράψουμε αυτές τις ισότητες ως εξής: Π(Χ, Υ) = Π(Υ|Χ)*Π( Χ) και Π(Χ, Υ) = Π(Χ|Υ) * Π(Υ)
Εφόσον οι αριστερές πλευρές είναι ίσες, έτσι είναι και οι δεξιές: Π(Υ|Χ)*Π( Χ) = Π(Χ|Υ) * Π(Υ)
Ή μπορούμε να ξαναγράψουμε την τελευταία ισότητα ως εξής:
Αυτό είναι το θεώρημα του Bayes!
Είναι δυνατόν τόσο απλοί (σχεδόν ταυτολογικοί) μετασχηματισμοί να γεννούν ένα μεγάλο θεώρημα!; Μη βιαστείτε να βγάλετε συμπεράσματα. Ας μιλήσουμε ξανά για αυτό που πήραμε. Υπήρχε κάποια αρχική (a priori) πιθανότητα R(Χ) ότι η τυχαία μεταβλητή Χομοιόμορφα κατανεμημένο στο τμήμα εμπίπτει εντός του εύρους Χ. Κάποιο γεγονός συνέβη Υ, ως αποτέλεσμα της οποίας έχουμε λάβει την εκ των υστέρων πιθανότητα της ίδιας τυχαίας μεταβλητής Χ: R(X|Y), και αυτή η πιθανότητα διαφέρει από R(Χ) με τον συντελεστή . Εκδήλωση Υαποκαλούμενες αποδείξεις, περισσότερο ή λιγότερο επιβεβαιωτικές ή διαψεύδουσες Χ. Αυτός ο συντελεστής ονομάζεται μερικές φορές δύναμη απόδειξης. Όσο πιο ισχυρή είναι η απόδειξη, όσο περισσότερο το γεγονός της παρατήρησης Υ αλλάζει την προηγούμενη πιθανότητα, τόσο περισσότερο η οπίσθια πιθανότητα διαφέρει από την προηγούμενη. Εάν τα στοιχεία είναι αδύναμα, το οπίσθιο είναι σχεδόν ίσο με το προηγούμενο.
Τύπος Bayes για διακριτές τυχαίες μεταβλητές
Στην προηγούμενη ενότητα, αντλήσαμε τον τύπο Bayes για συνεχείς τυχαίες μεταβλητές x και y που ορίζονται στο διάστημα . Εξετάστε ένα παράδειγμα με διακριτές τυχαίες μεταβλητές, καθεμία από τις οποίες παίρνει δύο πιθανές τιμές. Κατά τη διάρκεια ιατρικών εξετάσεων ρουτίνας, διαπιστώθηκε ότι στην ηλικία των σαράντα, το 1% των γυναικών πάσχει από καρκίνο του μαστού. Το 80% των γυναικών με καρκίνο λαμβάνουν θετικά αποτελέσματα μαστογραφίας. Το 9,6% των υγιών γυναικών λαμβάνουν επίσης θετικά αποτελέσματα μαστογραφίας. Κατά τη διάρκεια της εξέτασης, μια γυναίκα αυτής της ηλικιακής ομάδας έλαβε θετικό αποτέλεσμα μαστογραφίας. Ποια είναι η πιθανότητα να έχει όντως καρκίνο του μαστού;
Η πορεία του συλλογισμού/υπολογισμών έχει ως εξής. Από το 1% των καρκινοπαθών, η μαστογραφία θα δώσει 80% θετικά αποτελέσματα = 1% * 80% = 0,8%. Στο 99% των υγιών γυναικών, η μαστογραφία θα δώσει 9,6% θετικά αποτελέσματα = 99% * 9,6% = 9,504%. Συνολικά, από το 10,304% (9,504% + 0,8%) με θετικά αποτελέσματα μαστογραφίας, μόνο το 0,8% είναι άρρωστο και το υπόλοιπο 9,504% είναι υγιές. Έτσι, η πιθανότητα μια γυναίκα με θετική μαστογραφία να έχει καρκίνο είναι 0,8% / 10,304% = 7,764%. Σκέφτηκες το 80% ή έτσι;
Στο παράδειγμά μας, ο τύπος Bayes έχει την ακόλουθη μορφή:
Ας μιλήσουμε για τη «φυσική» έννοια αυτής της φόρμουλας για άλλη μια φορά. Χείναι μια τυχαία μεταβλητή (διάγνωση), η οποία λαμβάνει τις ακόλουθες τιμές: Χ 1- άρρωστος και Χ 2- υγιής Υ– τυχαία μεταβλητή (αποτέλεσμα μέτρησης - μαστογραφία), η οποία παίρνει τις τιμές: Υ 1- θετικό αποτέλεσμα και Υ2- αρνητικό αποτέλεσμα. p(X 1)- η πιθανότητα ασθένειας πριν από τη μαστογραφία (a priori πιθανότητα), ίση με 1%. R(Υ 1 |Χ 1 ) – η πιθανότητα θετικού αποτελέσματος εάν ο ασθενής είναι άρρωστος (πιθανότητα υπό όρους, αφού πρέπει να προσδιορίζεται στις συνθήκες της εργασίας), ίση με 80%. R(Υ 1 |Χ 2 ) – η πιθανότητα θετικού αποτελέσματος εάν ο ασθενής είναι υγιής (επίσης πιθανότητα υπό όρους), ίση με 9,6%. p(X 2)- η πιθανότητα ο ασθενής να είναι υγιής πριν από τη μαστογραφία (a priori πιθανότητα), ίση με 99%. p(X 1|Υ 1 ) – την πιθανότητα ο ασθενής να είναι άρρωστος, δεδομένου ενός θετικού αποτελέσματος μαστογραφίας (οπίσθια πιθανότητα).
Μπορεί να φανεί ότι η μεταγενέστερη πιθανότητα (αυτό που ψάχνουμε) είναι ανάλογη με την προηγούμενη πιθανότητα (αρχική) με έναν ελαφρώς πιο σύνθετο συντελεστή 
. Θα τονίσω ξανά. Κατά τη γνώμη μου, αυτή είναι μια θεμελιώδης πτυχή της Μπεϋζιανής προσέγγισης. Διάσταση ( Υ) πρόσθεσε μια συγκεκριμένη ποσότητα πληροφοριών στο αρχικά διαθέσιμο (a priori), το οποίο διευκρίνισε τις γνώσεις μας για το αντικείμενο.
Παραδείγματα
Για να ενοποιήσετε το υλικό που καλύπτεται, προσπαθήστε να λύσετε πολλά προβλήματα.
Παράδειγμα 1Υπάρχουν 3 τεφροδόχοι. στις πρώτες 3 άσπρες μπάλες και 1 μαύρη? στο δεύτερο - 2 άσπρες μπάλες και 3 μαύρες. στο τρίτο - 3 λευκές μπάλες. Κάποιος πλησιάζει τυχαία ένα από τα δοχεία και τραβάει 1 μπάλα από αυτό. Αυτή η μπάλα είναι λευκή. Βρείτε τις μεταγενέστερες πιθανότητες να τραβηχτεί η μπάλα από την 1η, 2η, 3η λάρνακα.
Λύση. Έχουμε τρεις υποθέσεις: H 1 = (επιλέχτηκε το πρώτο δοχείο), H 2 = (επιλέχτηκε το δεύτερο δοχείο), H 3 = (επιλέχτηκε το τρίτο δοχείο). Εφόσον η λάρνακα επιλέγεται τυχαία, οι a priori πιθανότητες των υποθέσεων είναι: Р(Н 1) = Р(Н 2) = Р(Н 3) = 1/3.
Ως αποτέλεσμα του πειράματος, εμφανίστηκε το συμβάν A = (μια λευκή μπάλα βγήκε από την επιλεγμένη λάρνακα). Υπό όρους πιθανότητες του συμβάντος Α στις υποθέσεις H 1, H 2, H 3: P(A|H 1) = 3/4, P(A|H 2) = 2/5, P(A|H 3) = 1. Για παράδειγμα, η πρώτη ισότητα έχει ως εξής: "η πιθανότητα να τραβήξετε μια λευκή μπάλα εάν επιλεγεί η πρώτη λάρνακα είναι 3/4 (αφού υπάρχουν 4 μπάλες στην πρώτη λάρνακα και οι 3 από αυτές είναι λευκές)".
Εφαρμόζοντας τον τύπο Bayes, βρίσκουμε τις μεταγενέστερες πιθανότητες των υποθέσεων:
Έτσι, υπό το φως των πληροφοριών σχετικά με την εμφάνιση του γεγονότος Α, οι πιθανότητες των υποθέσεων άλλαξαν: η πιο πιθανή έγινε η υπόθεση H 3 , η λιγότερο πιθανή - η υπόθεση H 2 .
Παράδειγμα 2Δύο σκοπευτές πυροβολούν ανεξάρτητα στον ίδιο στόχο, ο καθένας εκτοξεύει μία βολή. Η πιθανότητα να χτυπηθεί ο στόχος για τον πρώτο σκοπευτή είναι 0,8, για τον δεύτερο - 0,4. Μετά τη βολή, βρέθηκε μια τρύπα στον στόχο. Βρείτε την πιθανότητα αυτή η τρύπα να ανήκει στον πρώτο σκοπευτή (απορρίπτουμε το αποτέλεσμα (και οι δύο τρύπες συνέπεσαν) ως αμελητέα απίθανο).
Λύση. Πριν από το πείραμα, είναι δυνατές οι ακόλουθες υποθέσεις: H 1 = (ούτε το πρώτο ούτε το δεύτερο βέλος θα χτυπήσουν), H 2 = (και τα δύο βέλη θα χτυπήσουν), H 3 - (ο πρώτος σκοπευτής θα χτυπήσει και ο δεύτερος δεν θα χτυπήσει ), H 4 = (ο πρώτος σκοπευτής δεν θα χτυπήσει και ο δεύτερος θα χτυπήσει). Προηγούμενες πιθανότητες υποθέσεων:
P (H 1) \u003d 0,2 * 0,6 \u003d 0,12; P (H 2) \u003d 0,8 * 0,4 \u003d 0,32; P (H 3) \u003d 0,8 * 0,6 \u003d 0,48; P (H 4) \u003d 0,2 * 0,4 \u003d 0,08.
Οι πιθανότητες υπό όρους του παρατηρούμενου γεγονότος A = (υπάρχει μία τρύπα στον στόχο) κάτω από αυτές τις υποθέσεις είναι: P(A|H 1) = P(A|H 2) = 0; P(A|H 3) = P(A|H 4) = 1
Μετά από εμπειρία, οι υποθέσεις H 1 και H 2 καθίστανται αδύνατες και οι οπισθότερες πιθανότητες των υποθέσεων H 3 και H 4 σύμφωνα με τον τύπο Bayes θα είναι:
Bayes ενάντια στο spam
Η φόρμουλα του Bayes έχει βρει ευρεία εφαρμογή στην ανάπτυξη φίλτρων ανεπιθύμητης αλληλογραφίας. Ας υποθέσουμε ότι θέλετε να εκπαιδεύσετε έναν υπολογιστή ώστε να προσδιορίζει ποια email είναι ανεπιθύμητα. Θα ξεκινήσουμε από το λεξικό και τους συνδυασμούς λέξεων χρησιμοποιώντας εκτιμήσεις Bayes. Ας δημιουργήσουμε πρώτα έναν χώρο υποθέσεων. Ας έχουμε 2 υποθέσεις σχετικά με οποιοδήποτε γράμμα: Το H A είναι ανεπιθύμητο, το H B δεν είναι ανεπιθύμητο, αλλά ένα κανονικό, απαραίτητο γράμμα.
Αρχικά, ας «εκπαιδεύσουμε» το μελλοντικό μας σύστημα κατά των ανεπιθύμητων μηνυμάτων. Ας πάρουμε όλα τα γράμματα που έχουμε και ας τα χωρίσουμε σε δύο «σωρούς» των 10 γραμμάτων. Βάζουμε spam γράμματα στο ένα και το ονομάζουμε H A heap, στο άλλο βάζουμε την απαραίτητη αντιστοιχία και το ονομάζουμε H B heap. Ας δούμε τώρα: ποιες λέξεις και φράσεις βρίσκονται στα ανεπιθύμητα και απαραίτητα email και με ποια συχνότητα; Αυτές οι λέξεις και φράσεις θα ονομάζονται αποδεικτικά στοιχεία και θα δηλώνονται με E 1 , E 2 ... Αποδεικνύεται ότι οι λέξεις που χρησιμοποιούνται συνήθως (για παράδειγμα, οι λέξεις "όπως", "σας") στους σωρούς H A και H B εμφανίζονται με περίπου το ίδια συχνότητα. Έτσι, η παρουσία αυτών των λέξεων σε ένα γράμμα δεν μας λέει τίποτα για το σε ποιο σωρό ανήκει (αδύναμα στοιχεία). Ας αντιστοιχίσουμε σε αυτές τις λέξεις μια ουδέτερη τιμή της εκτίμησης της πιθανότητας "spam", ας πούμε, 0,5.
Αφήστε τη φράση "συνομιλητικά αγγλικά" να εμφανίζεται με μόνο 10 γράμματα και πιο συχνά σε ανεπιθύμητα μηνύματα ηλεκτρονικού ταχυδρομείου (για παράδειγμα, σε 7 ανεπιθύμητα email από τα 10) παρά με τα σωστά (σε 3 στα 10). Ας δώσουμε σε αυτή τη φράση υψηλότερη βαθμολογία 7/10 για ανεπιθύμητα μηνύματα και χαμηλότερη βαθμολογία για κανονικά μηνύματα ηλεκτρονικού ταχυδρομείου: 3/10. Αντίθετα, αποδείχθηκε ότι η λέξη «φίλε» ήταν πιο κοινή στα κανονικά γράμματα (6 στα 10). Και έτσι λάβαμε μια σύντομη επιστολή: «Φίλε! Πώς είναι τα προφορικά αγγλικά σας;. Ας προσπαθήσουμε να αξιολογήσουμε το «spamness» του. Θα βάλουμε τις γενικές εκτιμήσεις P(H A), P(H B) που ανήκουν σε κάθε σωρό χρησιμοποιώντας έναν κάπως απλοποιημένο τύπο Bayes και τις κατά προσέγγιση εκτιμήσεις μας:
P(H A) = A/(A+B), όπου A \u003d p a1 * p a2 * ... * pan, B \u003d p b1 * p b2 * ... * p b n \u003d (1 - p a1) * (1 - p a2) * ... * ( 1 - p an).
Πίνακας 1. Απλοποιημένη (και ημιτελής) Μπεϋζιανή αξιολόγηση της γραφής
Έτσι, η υποθετική μας επιστολή έλαβε εκτίμηση της πιθανότητας να ανήκει με έμφαση στην κατεύθυνση του «spam». Μπορούμε να αποφασίσουμε να ρίξουμε το γράμμα σε έναν από τους σωρούς; Ας ορίσουμε τα όρια απόφασης:
- Θα υποθέσουμε ότι το γράμμα ανήκει στο σωρό H i αν P(H i) ≥ T.
- Το γράμμα δεν ανήκει στο σωρό αν P(H i) ≤ L.
- Αν L ≤ P(H i) ≤ T, τότε δεν μπορεί να ληφθεί απόφαση.
Μπορείτε να πάρετε T = 0,95 και L = 0,05. Αφού για την εν λόγω επιστολή και 0,05< P(H A) < 0,95, и 0,05 < P(H В) < 0,95, то мы не сможем принять решение, куда отнести данное письмо: к спаму (H A) или к нужным письмам (H B). Можно ли улучшить оценку, используя больше информации?
Ναί. Ας υπολογίσουμε τη βαθμολογία για κάθε αποδεικτικό στοιχείο με διαφορετικό τρόπο, όπως πρότεινε ο Bayes. Αφήνω:
F a είναι ο συνολικός αριθμός των ανεπιθύμητων μηνυμάτων ηλεκτρονικού ταχυδρομείου.
F ai είναι ο αριθμός των γραμμάτων με πιστοποιητικό Εγώσε ένα σωρό spam?
F b είναι ο συνολικός αριθμός των γραμμάτων που χρειάζονται.
F bi είναι ο αριθμός των γραμμάτων με πιστοποιητικό Εγώσε ένα σωρό απαραίτητα (σχετικά) γράμματα.
Τότε: p ai = F ai /F a , p bi = F bi /F b . P(H A) = A/(A+B), P(H B) = B/(A+B), όπουА = p a1 *p a2 *…*p an , B = p b1 *p b2 *…*p b n
Σημειώστε ότι οι βαθμολογίες των αποδεικτικών λέξεων p ai και p bi έχουν γίνει αντικειμενικές και μπορούν να υπολογιστούν χωρίς ανθρώπινη συμμετοχή.
Πίνακας 2. Μια πιο ακριβής (αλλά ημιτελής) εκτίμηση Μπεϋζιανή για διαθέσιμα χαρακτηριστικά από μια επιστολή
Πήραμε ένα αρκετά σαφές αποτέλεσμα - με μεγάλο περιθώριο πιθανότητας, το γράμμα μπορεί να αποδοθεί στα απαραίτητα γράμματα, αφού P(H B) = 0,997 > T = 0,95. Γιατί άλλαξε το αποτέλεσμα; Επειδή χρησιμοποιήσαμε περισσότερες πληροφορίες - λάβαμε υπόψη τον αριθμό των γραμμάτων σε καθέναν από τους σωρούς και, παρεμπιπτόντως, καθορίσαμε τις εκτιμήσεις p ai και p bi πολύ πιο σωστά. Προσδιορίστηκαν με τον ίδιο τρόπο που έκανε ο ίδιος ο Bayes, υπολογίζοντας τις υπό όρους πιθανότητες. Με άλλα λόγια, το p a3 είναι η πιθανότητα να εμφανιστεί η λέξη "φίλος" στο email, δεδομένου ότι το email ανήκει ήδη στον σωρό ανεπιθύμητων μηνυμάτων H A . Το αποτέλεσμα δεν άργησε να έρθει - φαίνεται ότι μπορούμε να πάρουμε μια απόφαση με μεγαλύτερη βεβαιότητα.
Bayes εναντίον εταιρικής απάτης
Μια ενδιαφέρουσα εφαρμογή της Μπεϋζιανής προσέγγισης περιγράφηκε από τον MAGNUS8.
Το τρέχον έργο μου (IS για ανίχνευση απάτης σε μια μεταποιητική επιχείρηση) χρησιμοποιεί τον τύπο Bayes για να προσδιορίσει την πιθανότητα απάτης (απάτης) παρουσία / απουσία πολλών γεγονότων έμμεσα υπέρ της υπόθεσης της πιθανότητας απάτης. Ο αλγόριθμος είναι αυτομαθησιακός (με ανατροφοδότηση), π.χ. επανυπολογίζει τους συντελεστές του (υπό όρους πιθανότητες) μετά την πραγματική επιβεβαίωση ή μη της απάτης κατά τον έλεγχο από την υπηρεσία οικονομικής ασφάλειας.
Αξίζει πιθανώς να πούμε ότι τέτοιες μέθοδοι κατά το σχεδιασμό αλγορίθμων απαιτούν μια αρκετά υψηλή μαθηματική κουλτούρα του προγραμματιστή, επειδή το παραμικρό λάθος στην παραγωγή και/ή στην υλοποίηση υπολογιστικών τύπων θα ακυρώσει και θα δυσφημήσει ολόκληρη τη μέθοδο. Οι πιθανοτικές μέθοδοι ευθύνονται ιδιαίτερα για αυτό, αφού η ανθρώπινη σκέψη δεν είναι προσαρμοσμένη για να λειτουργεί με πιθανολογικές κατηγορίες και, κατά συνέπεια, δεν υπάρχει «ορατότητα» και κατανόηση της «φυσικής σημασίας» των ενδιάμεσων και τελικών πιθανοτικών παραμέτρων. Μια τέτοια κατανόηση υπάρχει μόνο για τις βασικές έννοιες της θεωρίας πιθανοτήτων και, στη συνέχεια, πρέπει απλώς να συνδυάσετε πολύ προσεκτικά και να εξαγάγετε πολύπλοκα πράγματα σύμφωνα με τους νόμους της θεωρίας πιθανοτήτων - η κοινή λογική δεν θα βοηθά πλέον για σύνθετα αντικείμενα. Αυτό, συγκεκριμένα, συνδέεται με αρκετά σοβαρές μεθοδολογικές μάχες που λαμβάνουν χώρα στις σελίδες σύγχρονων βιβλίων για τη φιλοσοφία των πιθανοτήτων, καθώς και με μεγάλο αριθμό σοφισμών, παραδοξοτήτων και περιέργειας σχετικά με αυτό το θέμα.
Μια άλλη απόχρωση που έπρεπε να αντιμετωπίσω είναι ότι, δυστυχώς, σχεδόν ό,τι είναι λίγο πολύ ΧΡΗΣΙΜΟ ΣΤΗΝ ΠΡΑΚΤΙΚΗ σε αυτό το θέμα είναι γραμμένο στα αγγλικά. Στις ρωσόφωνες πηγές, υπάρχει βασικά μόνο μια πολύ γνωστή θεωρία με παραδείγματα επίδειξης μόνο για τις πιο πρωτόγονες περιπτώσεις.
Συμφωνώ απόλυτα με το τελευταίο σχόλιο. Για παράδειγμα, η Google, όταν προσπάθησε να βρει κάτι σαν το βιβλίο «Bayesian Probability», δεν έδωσε τίποτα κατανοητό. Αλήθεια, είπε ότι ένα βιβλίο με στατιστικές Bayesian απαγορεύτηκε στην Κίνα. (Ο καθηγητής στατιστικής Andrew Gelman ανέφερε σε ένα ιστολόγιο του Πανεπιστημίου της Κολούμπια ότι το βιβλίο του, Data Analysis with Regression and Multilevel/Hierarchical Models, απαγορεύτηκε η δημοσίευση στην Κίνα. κείμενο.») Αναρωτιέμαι αν παρόμοιος λόγος οδήγησε στην απουσία βιβλίων για το Bayesian πιθανότητα στη Ρωσία;
Συντηρητισμός στη διαδικασία επεξεργασίας της ανθρώπινης πληροφορίας
Οι πιθανότητες καθορίζουν τον βαθμό αβεβαιότητας. Η πιθανότητα, τόσο σύμφωνα με τον Bayes όσο και σύμφωνα με τη διαίσθησή μας, είναι απλώς ένας αριθμός μεταξύ του μηδενός και αυτού που αντιπροσωπεύει το βαθμό στον οποίο ένα κάπως εξιδανικευμένο άτομο πιστεύει ότι η δήλωση είναι αληθινή. Ο λόγος που ένα άτομο εξιδανικεύεται κάπως είναι ότι το άθροισμα των πιθανοτήτων του για δύο αμοιβαία αποκλειόμενα γεγονότα πρέπει να ισούται με την πιθανότητα να συμβεί κάποιο από αυτά τα γεγονότα. Η ιδιότητα της προσθετικότητας έχει τέτοιες συνέπειες που ελάχιστοι πραγματικοί άνθρωποι μπορούν να τις ταιριάξουν όλες.
Το θεώρημα του Bayes είναι μια ασήμαντη συνέπεια της ιδιότητας της προσθετικότητας, αναμφισβήτητη και συμφωνημένη από όλους τους πιθανολογητές, Bayesian και άλλους. Ένας τρόπος να το γράψεις είναι ο παρακάτω. Αν P(H A |D) είναι η επακόλουθη πιθανότητα ότι η υπόθεση A ήταν μετά την παρατήρηση της δεδομένης τιμής D, P(H A) είναι η προηγούμενη πιθανότητα πριν παρατηρηθεί η δεδομένη τιμή D, P(D|H A ) είναι η πιθανότητα ότι ένα θα παρατηρηθεί δεδομένη τιμή D, εάν το H A είναι αληθές, και το P(D) είναι η άνευ όρων πιθανότητα μιας δεδομένης τιμής D, τότε
(1) P(H A |D) = P(D|H A) * P(H A) / P(D)
Το P(D) θεωρείται καλύτερα ως μια σταθερά ομαλοποίησης που προκαλεί το άθροισμα των μεταγενέστερων πιθανοτήτων στο ένα από το εξαντλητικό σύνολο των αμοιβαία αποκλειστικών υποθέσεων που εξετάζονται. Εάν πρέπει να υπολογιστεί, μπορεί να είναι ως εξής:
Αλλά πιο συχνά το P(D) εξαλείφεται παρά μετράται. Ένας βολικός τρόπος για να το εξαλείψουμε είναι να μετατρέψουμε το θεώρημα του Bayes στη μορφή μιας σχέσης πιθανότητας-απόδοσης.
Εξετάστε μια άλλη υπόθεση, H B , αμοιβαία αποκλειστική για την H A, και αλλάξτε γνώμη σχετικά με αυτήν με βάση την ίδια δεδομένη ποσότητα που άλλαξε γνώμη για την H A. Το θεώρημα του Bayes λέει ότι
(2) P(H B |D) = P(D|H B) * P(H B) / P(D)
Τώρα διαιρούμε την Εξίσωση 1 με την Εξίσωση 2. το αποτέλεσμα θα είναι ως εξής:
όπου Ω 1 είναι οι μεταγενέστερες πιθανότητες υπέρ του H A ως προς το H B, Ω 0 είναι οι προηγούμενες πιθανότητες και L είναι ένας αριθμός γνωστός στους στατιστικολόγους ως λόγος πιθανοτήτων. Η εξίσωση 3 είναι η ίδια σχετική εκδοχή του θεωρήματος του Bayes με την Εξίσωση 1, και είναι συχνά πολύ πιο χρήσιμη ειδικά για πειράματα που περιλαμβάνουν υποθέσεις. Οι υποστηρικτές του Bayes υποστηρίζουν ότι το θεώρημα του Bayes είναι ένας τυπικά βέλτιστος κανόνας για τον τρόπο αναθεώρησης των απόψεων υπό το φως των νέων δεδομένων.
Μας ενδιαφέρει να συγκρίνουμε την ιδανική συμπεριφορά που ορίζεται από το θεώρημα του Bayes με την πραγματική συμπεριφορά των ανθρώπων. Για να σας δώσουμε κάποια ιδέα για το τι σημαίνει αυτό, ας δοκιμάσουμε ένα πείραμα με εσάς ως θέμα. Αυτή η τσάντα περιέχει 1000 μάρκες πόκερ. Έχω δύο από αυτές τις τσάντες, η μία με 700 κόκκινες και 300 μπλε μάρκες και η άλλη με 300 κόκκινες και 700 μπλε. Γύρισα ένα νόμισμα για να προσδιορίσω ποιο να χρησιμοποιήσω. Έτσι, εάν οι απόψεις μας είναι οι ίδιες, η τρέχουσα πιθανότητα να σχεδιάσετε μια τσάντα με περισσότερες κόκκινες μάρκες είναι 0,5. Τώρα, κάνετε τυχαία δειγματοληψία, επιστρέφοντας μετά από κάθε διακριτικό. Σε 12 μάρκες, παίρνετε 8 κόκκινες και 4 μπλε. Τώρα, με βάση όλα όσα γνωρίζετε, ποια είναι η πιθανότητα μια τσάντα να έχει περισσότερα κόκκινα; Είναι σαφές ότι είναι υψηλότερο από 0,5. Μην συνεχίσετε την ανάγνωση μέχρι να καταγράψετε τη βαθμολογία σας.
Εάν μοιάζετε με ένα τυπικό θέμα, η βαθμολογία σας πέφτει μεταξύ 0,7 και 0,8. Αν κάναμε όμως τον αντίστοιχο υπολογισμό, η απάντηση θα ήταν 0,97. Πράγματι, είναι πολύ σπάνιο για ένα άτομο στο οποίο δεν έχει προηγουμένως αποδειχθεί η επιρροή του συντηρητισμού να καταλήξει σε μια τόσο υψηλή εκτίμηση, ακόμα κι αν ήταν εξοικειωμένος με το θεώρημα του Bayes.
Αν η αναλογία των κόκκινων τσιπς στη σακούλα είναι R, τότε η πιθανότητα να πάρει rκόκκινα πατατάκια και ( n-r) μπλε μέσα nδείγματα με επιστροφή - p r (1-Π)n-r. Έτσι, σε ένα τυπικό πείραμα με τσάντα και τσιπ πόκερ, αν HΕΝΑσημαίνει ότι η αναλογία των κόκκινων τσιπς είναι r Ακαι Hσισημαίνει ότι η μετοχή είναι Rσι, τότε ο λόγος πιθανότητας:
Κατά την εφαρμογή του τύπου του Bayes, πρέπει να λαμβάνεται υπόψη μόνο η πιθανότητα της πραγματικής παρατήρησης και όχι οι πιθανότητες άλλων παρατηρήσεων που μπορεί να έκανε αλλά δεν το έκανε. Αυτή η αρχή έχει ευρείες επιπτώσεις για όλες τις στατιστικές και μη στατιστικές εφαρμογές του θεωρήματος του Bayes. είναι το σημαντικότερο τεχνικό εργαλείο της μπεϋζιανής σκέψης.
Μπεϋζιανή επανάσταση
Οι φίλοι και οι συνάδελφοί σας μιλούν για κάτι που λέγεται «Θεώρημα Bayes» ή «Bayesian κανόνας» ή κάτι που ονομάζεται Bayesian thinking. Είναι πραγματικά σε αυτό, οπότε πηγαίνετε στο διαδίκτυο και βρίσκετε μια σελίδα για το θεώρημα του Bayes και... Είναι μια εξίσωση. Και αυτό είναι όλο... Γιατί μια μαθηματική έννοια γεννά τέτοιο ενθουσιασμό στα μυαλά; Τι είδους «Μπαγιέζικη επανάσταση» λαμβάνει χώρα μεταξύ των επιστημόνων, και υποστηρίζεται ότι ακόμη και η ίδια η πειραματική προσέγγιση μπορεί να περιγραφεί ως η ειδική της περίπτωση; Ποιο είναι το μυστικό που γνωρίζουν οι οπαδοί του Bayes; Τι είδους φως βλέπουν;
Η Μπεϋζιανή επανάσταση στην επιστήμη δεν συνέβη επειδή όλο και περισσότεροι γνωστικοί επιστήμονες άρχισαν ξαφνικά να παρατηρούν ότι τα νοητικά φαινόμενα έχουν μια Μπεϋζιανή δομή. Όχι επειδή οι επιστήμονες σε κάθε τομέα έχουν αρχίσει να χρησιμοποιούν τη μέθοδο Bayes. αλλά επειδή η ίδια η επιστήμη είναι μια ειδική περίπτωση του θεωρήματος του Bayes. τα πειραματικά στοιχεία είναι στοιχεία του Μπεϋζιανού. Οι Μπεϋζιανοί επαναστάτες υποστηρίζουν ότι όταν κάνετε ένα πείραμα και λαμβάνετε στοιχεία που «υποστηρίζουν» ή «διαψεύδουν» τη θεωρία σας, αυτή η επιβεβαίωση ή η διάψευση συμβαίνει σύμφωνα με τους Μπεϋζιανούς κανόνες. Για παράδειγμα, πρέπει να λάβετε υπόψη όχι μόνο ότι η θεωρία σας μπορεί να εξηγήσει το φαινόμενο, αλλά και ότι υπάρχουν άλλες πιθανές εξηγήσεις που μπορούν επίσης να προβλέψουν αυτό το φαινόμενο.
Προηγουμένως, η πιο δημοφιλής φιλοσοφία της επιστήμης ήταν η παλιά φιλοσοφία που εκτοπίστηκε από την Μπεϋζιανή επανάσταση. Η ιδέα του Karl Popper ότι οι θεωρίες μπορούν να παραποιηθούν πλήρως, αλλά ποτέ να μην επιβεβαιωθούν πλήρως, είναι μια άλλη ειδική περίπτωση των κανόνων του Bayes. εάν p(X|A) ≈ 1 - εάν η θεωρία κάνει σωστές προβλέψεις, τότε η παρατήρηση ~X παραποιεί πολύ έντονα το A. Από την άλλη πλευρά, εάν p(X|A) ≈ 1 και παρατηρήσουμε το X, αυτό δεν υποστηρίζει η θεωρια παρα πολυ? κάποια άλλη συνθήκη Β είναι δυνατή, τέτοια ώστε p(X|B) ≈ 1, και υπό την οποία η παρατήρηση του Χ δεν αποδεικνύει για το Α αλλά για το Β. Για να παρατηρήσουμε ότι το Χ επιβεβαιώνει οπωσδήποτε το Α, δεν θα πρέπει να γνωρίζουμε ότι το p( X|A) ≈ 1 και εκείνο το p(X|~A) ≈ 0, το οποίο δεν μπορούμε να γνωρίζουμε γιατί δεν μπορούμε να εξετάσουμε όλες τις πιθανές εναλλακτικές εξηγήσεις. Για παράδειγμα, όταν η θεωρία της γενικής σχετικότητας του Αϊνστάιν ξεπέρασε την εξαιρετικά επαληθεύσιμη θεωρία της βαρύτητας του Νεύτωνα, έκανε όλες τις προβλέψεις της θεωρίας του Νεύτωνα μια ειδική περίπτωση του Αϊνστάιν.
Ομοίως, ο ισχυρισμός του Popper ότι μια ιδέα πρέπει να είναι παραποιήσιμη μπορεί να ερμηνευθεί ως εκδήλωση του Μπεϋζιανού κανόνα για τη διατήρηση της πιθανότητας. Εάν το αποτέλεσμα Χ είναι θετική απόδειξη για τη θεωρία, τότε το αποτέλεσμα ~Χ πρέπει να παραποιήσει τη θεωρία σε κάποιο βαθμό. Αν προσπαθείτε να ερμηνεύσετε τόσο το X όσο και το ~X ως «υποστήριξη» μιας θεωρίας, οι κανόνες του Bayes λένε ότι αυτό είναι αδύνατο! Για να αυξήσετε την πιθανότητα μιας θεωρίας, πρέπει να την υποβάλετε σε δοκιμές που μπορούν ενδεχομένως να μειώσουν την πιθανότητά της. Αυτό δεν είναι απλώς ένας κανόνας για την ανίχνευση τσαρλατάνων στην επιστήμη, αλλά συνέπεια του Θεωρήματος Πιθανοτήτων Μπεϋζιάν. Από την άλλη, η ιδέα του Πόπερ ότι χρειάζεται μόνο παραποίηση και δεν χρειάζεται επιβεβαίωση είναι λανθασμένη. Το θεώρημα του Bayes δείχνει ότι η παραποίηση είναι πολύ ισχυρή απόδειξη σε σύγκριση με την επιβεβαίωση, αλλά η παραποίηση εξακολουθεί να είναι πιθανολογική. δεν διέπεται από θεμελιωδώς διαφορετικούς κανόνες και δεν διαφέρει σε αυτό από την επιβεβαίωση, όπως υποστηρίζει ο Popper.
Έτσι διαπιστώνουμε ότι πολλά φαινόμενα στις γνωστικές επιστήμες, συν οι στατιστικές μέθοδοι που χρησιμοποιούν οι επιστήμονες, συν η ίδια η επιστημονική μέθοδος, είναι όλα ειδικές περιπτώσεις του θεωρήματος του Bayes. Αυτό είναι το νόημα της Μπεϋζιανής επανάστασης.
Καλώς ήρθατε στη συνωμοσία του Μπεϋζιάν!
Βιβλιογραφία για την Μπεϋζιανή πιθανότητα
2. Ο βραβευμένος με Νόμπελ οικονομίας Kahneman (et al.) περιγράφει πολλές διαφορετικές εφαρμογές του Bayes σε ένα υπέροχο βιβλίο. Μόνο στην περίληψη αυτού του πολύ μεγάλου βιβλίου, μέτρησα 27 αναφορές στο όνομα ενός Πρεσβυτεριανού λειτουργού. Ελάχιστες φόρμουλες. (.. Μου άρεσε πολύ. Αλήθεια, είναι πολύπλοκο, πολλά μαθηματικά (και πού χωρίς αυτά), αλλά μεμονωμένα κεφάλαια (π.χ. Κεφάλαιο 4. Πληροφορίες), ξεκάθαρα για το θέμα. Συμβουλεύω όλους. Ακόμα κι αν τα μαθηματικά είναι δύσκολο για εσάς, διαβάστε τη γραμμή , παρακάμπτοντας τα μαθηματικά και ψαρεύοντας χρήσιμους κόκκους ...
14. (συμπλήρωμα με ημερομηνία 15 Ιανουαρίου 2017), ένα κεφάλαιο από το βιβλίο του Tony Crilly. 50 ιδέες που πρέπει να γνωρίζετε. Μαθηματικά.
Ο φυσικός Richard Feynman, βραβευμένος με Νόμπελ, μιλώντας για έναν φιλόσοφο με ιδιαίτερα μεγάλη έπαρση, είπε κάποτε: «Δεν με εκνευρίζει καθόλου η φιλοσοφία ως επιστήμη, αλλά η μεγαλοπρέπεια που έχει δημιουργηθεί γύρω της. Αν οι φιλόσοφοι μπορούσαν να γελάσουν με τον εαυτό τους! Μακάρι να μπορούσαν να πουν: «Εγώ λέω ότι είναι έτσι, αλλά ο Φον Λειψία θεώρησε ότι ήταν διαφορετικό, και ξέρει επίσης κάτι για αυτό». Αν θυμήθηκαν να ξεκαθαρίσουν ότι ήταν μόνο δικό τους .
Φόρμα εκδηλώσεων πλήρης ομάδα, εάν τουλάχιστον ένα από αυτά προκύψει απαραίτητα ως αποτέλεσμα του πειράματος και είναι ασυνεπές ανά ζεύγη.
Ας υποθέσουμε ότι το γεγονός ΕΝΑμπορεί να συμβεί μόνο μαζί με ένα από πολλά ασύμβατα συμβάντα ανά ζεύγη που σχηματίζουν μια πλήρη ομάδα. Ας ονομάσουμε τα γεγονότα Εγώ= 1, 2,…, n) υποθέσειςπρόσθετη εμπειρία (a priori). Η πιθανότητα εμφάνισης του συμβάντος Α καθορίζεται από τον τύπο πλήρη πιθανότητα :
Παράδειγμα 16Υπάρχουν τρεις τεφροδόχοι. Το πρώτο δοχείο περιέχει 5 άσπρες και 3 μαύρες μπάλες, το δεύτερο δοχείο περιέχει 4 άσπρες και 4 μαύρες μπάλες και το τρίτο δοχείο περιέχει 8 άσπρες μπάλες. Ένα από τα δοχεία επιλέγεται τυχαία (αυτό μπορεί να σημαίνει, για παράδειγμα, ότι μια επιλογή γίνεται από ένα βοηθητικό δοχείο που περιέχει τρεις μπάλες με αριθμό 1, 2 και 3). Μια μπάλα τραβιέται τυχαία από αυτό το δοχείο. Ποια είναι η πιθανότητα να είναι μαύρο;
Λύση.Εκδήλωση ΕΝΑ– τραβιέται μαύρη μπάλα. Αν ήταν γνωστό από ποια λάρνακα τραβιέται η μπάλα, τότε η απαιτούμενη πιθανότητα θα μπορούσε να υπολογιστεί σύμφωνα με τον κλασικό ορισμό της πιθανότητας. Ας εισαγάγουμε υποθέσεις (υποθέσεις) σχετικά με το ποιο δοχείο επιλέγεται για την εξαγωγή της μπάλας.
Η μπάλα μπορεί να τραβηχτεί είτε από την πρώτη λάρνακα (υπόθεση ), είτε από τη δεύτερη (υπόθεση ), είτε από την τρίτη (υπόθεση ). Δεδομένου ότι υπάρχουν ίσες πιθανότητες να επιλέξετε οποιοδήποτε από τα δοχεία, τότε 
.
Ως εκ τούτου προκύπτει ότι
Παράδειγμα 17.Οι ηλεκτρικοί λαμπτήρες κατασκευάζονται σε τρία εργοστάσια. Το πρώτο εργοστάσιο παράγει το 30% του συνολικού αριθμού ηλεκτρικών λαμπτήρων, το δεύτερο - 25%,
και το τρίτο για τα υπόλοιπα. Τα προϊόντα της πρώτης μονάδας περιέχουν 1% ελαττωματικών ηλεκτρικών λαμπτήρων, η δεύτερη - 1,5%, η τρίτη - 2%. Το κατάστημα παραλαμβάνει προϊόντα και από τα τρία εργοστάσια. Ποια είναι η πιθανότητα να είναι ελαττωματική μια λάμπα που αγοράζεται από το κατάστημα;
Λύση.Πρέπει να εισαχθούν υποθέσεις για το σε ποιο εργοστάσιο κατασκευάστηκε ο λαμπτήρας. Γνωρίζοντας αυτό, μπορούμε να βρούμε την πιθανότητα να είναι ελαττωματικό. Ας εισάγουμε σημειώσεις για συμβάντα: ΕΝΑ– η ηλεκτρική λάμπα που αγοράστηκε αποδείχθηκε ελαττωματική, – η λάμπα κατασκευάστηκε από το πρώτο εργοστάσιο, – η λάμπα κατασκευάστηκε από το δεύτερο εργοστάσιο,
– η λάμπα κατασκευάζεται από το τρίτο εργοστάσιο.
Η επιθυμητή πιθανότητα βρίσκεται από τον τύπο συνολικής πιθανότητας:
Φόρμουλα Bayes. Έστω μια πλήρης ομάδα ασυμβίβαστων γεγονότων κατά ζεύγη (υποθέσεις). ΑΛΛΑείναι ένα τυχαίο γεγονός. Επειτα,
Ο τελευταίος τύπος που σας επιτρέπει να υπερεκτιμήσετε τις πιθανότητες των υποθέσεων αφού γίνει γνωστό το αποτέλεσμα του τεστ, ως αποτέλεσμα του οποίου εμφανίστηκε το γεγονός Α, ονομάζεται Φόρμουλα Bayes .
Παράδειγμα 18.Κατά μέσο όρο το 50% των ασθενών με τη νόσο εισάγονται σε εξειδικευμένο νοσοκομείο Προς την, 30% με νόσο μεγάλο, 20 % –
με ασθένεια Μ. Η πιθανότητα πλήρους θεραπείας της νόσου κισούται με 0,7 για ασθένειες μεγάλοκαι Μαυτές οι πιθανότητες είναι αντίστοιχα 0,8 και 0,9. Ο ασθενής που εισήχθη στο νοσοκομείο πήρε εξιτήριο υγιής. Βρείτε την πιθανότητα ότι αυτός ο ασθενής είχε την ασθένεια κ.
Λύση.Εισάγουμε υποθέσεις: - ο ασθενής έπασχε από ασθένεια Προς την μεγάλο, ο ασθενής έπασχε από τη νόσο Μ.
Τότε, από την συνθήκη του προβλήματος, έχουμε . Ας παρουσιάσουμε μια εκδήλωση ΑΛΛΑΟ ασθενής που εισήχθη στο νοσοκομείο πήρε εξιτήριο υγιής. Κατά συνθήκη
Σύμφωνα με τον τύπο της συνολικής πιθανότητας, παίρνουμε:
Φόρμουλα Bayes.
Παράδειγμα 19.Ας υπάρχουν πέντε μπάλες στο δοχείο και όλες οι υποθέσεις σχετικά με τον αριθμό των λευκών σφαιρών είναι εξίσου πιθανές. Μια μπάλα λαμβάνεται τυχαία από τη λάρνακα και αποδεικνύεται λευκή. Ποια είναι η πιο πιθανή υπόθεση σχετικά με την αρχική σύνθεση του δοχείου;
Λύση.Ας είναι η υπόθεση ότι στο δοχείο των λευκών μπάλες 
, δηλαδή είναι δυνατόν να γίνουν έξι υποθέσεις. Τότε, από την συνθήκη του προβλήματος, έχουμε .
Ας παρουσιάσουμε μια εκδήλωση ΑΛΛΑΜια τυχαία τραβηγμένη λευκή μπάλα. Ας υπολογίσουμε. Από τότε, σύμφωνα με τον τύπο Bayes έχουμε: 
Έτσι, η υπόθεση είναι η πιο πιθανή, αφού .
Παράδειγμα 20.Δύο από τα τρία ανεξάρτητα λειτουργικά στοιχεία της υπολογιστικής συσκευής απέτυχαν. Βρείτε την πιθανότητα να απέτυχαν το πρώτο και το δεύτερο στοιχείο εάν οι πιθανότητες αστοχίας του πρώτου, του δεύτερου και του τρίτου στοιχείου είναι αντίστοιχα ίσες με 0,2. 0,4 και 0,3.
Λύση.Σημειώστε με ΑΛΛΑσυμβάν - δύο στοιχεία απέτυχαν. Μπορούν να διατυπωθούν οι ακόλουθες υποθέσεις:
- το πρώτο και το δεύτερο στοιχείο απέτυχαν και το τρίτο στοιχείο είναι επισκευάσιμο. Εφόσον τα στοιχεία λειτουργούν ανεξάρτητα, ισχύει το θεώρημα πολλαπλασιασμού:
