Tutorial zum EM-Algorithmus (zweite Auflage)

La stima di massima verosimiglianza (MLE) è un metodo popolare per la stima dei parametri sia nella teoria della probabilità applicata che nella statistica. Tuttavia, la MLE non può risolvere il problema dei dati incompleti o nascosti, poiché è impossibile massimizzare la funzione di verosimiglianza basandosi su dati nascosti. L'algoritmo dell'aspettativa massima (EM) è uno strumento matematico potente per affrontare questo problema, quando esiste una relazione tra dati nascosti e dati osservati. Tale relazione è specificata da una mappatura dei dati nascosti sui dati osservati o da una probabilità congiunta tra questi. L'idea fondamentale dell'algoritmo EM è massimizzare il valore atteso della funzione di verosimiglianza sui dati osservati sulla base della relazione di suggerimento, piuttosto che massimizzare direttamente la funzione di verosimiglianza dei dati nascosti. I pionieri dell'algoritmo EM hanno dimostrato la sua convergenza. Di conseguenza, l'algoritmo EM fornisce stime dei parametri altrettanto buone quanto la MLE. Questo tutorial ha lo scopo di fornire spiegazioni sull'algoritmo EM per aiutare i ricercatori a comprenderlo. Inoltre, nella seconda edizione vengono presentate alcune applicazioni dell'EM, come i modelli misti, la gestione dei dati mancanti e l'apprendimento dei modelli di Markov nascosti.