Moderne Methoden der Datenanalyse

• V. Blobel, E. Lohrmann, Statistische Methoden der Datenanalyse [eBook]
• M. Erdmann, Th.Hebbeker, Experimentalphysik 5, Moderne Methoden der Datenanalyse, Springer
• G. Bohm, G. Zech, Einführung in Statistik und Messdatenanalyse für Physiker [pdf deutsch] [pdf englisch]
• G. Cowen, Statistical Data Analysis, Oxford Science Publications
• R. Barlow, Statistics, Wiley
• T. Hastie, R. Tibshirani, J. Friedman, The Elements of Statistical Learning: Data Mining, Inference, and Prediction [link]
• I. Goodfellow, Y. Bengio, A. Courville, Deep Learning [link]
• G. Cowan, Statistics (Rev.), Chapter 39 of The 2016 Review of Particle Physics [link] [pdf]
• O. Behnke, K.Kröniger, G.Schott and T.Schörner-Sadenius, Data Analysis in High Energy Physics, Wiley
• F. James, Statistical Methods in Experimental Physics, World Scientific (2006)
• W. H. Press et al., Numerical Recipes in C++, Cambridge University Press

• Die Übungen finden Donnerstags nachmittags im CIP Raum statt.
• Bitte melden Sie sich hier für die Übungen an!
• Es sind 9 Aufgabenblätter vorgesehen.
• Für 6 Leistungspunkte sollen 2/3 der Aufgaben korrekt gelöst werden.
  
• Für 8 Leistungspunkte sollen 80% der Aufgaben korrekt gelöst werden.
  Zudem Teilnahme am "Higgs Data-Challenge", bei dem Sie in Zweiergruppen multivariate Analysemethoden anwenden, um LHC-Daten zu analysieren.
  

• Virtuelle Maschine mit Ubuntu-Linux, python und ROOT [link]
• ROOT Users Guide, insbesondere "Getting Started" [link]
  
• Accounts für den CIP-Pool der Fakultät, Raum FE/6, Physik-Flachbau [link]

Inhalt, Folien und Beispiele

Datum und Abschnitt	Inhalt	Folien und Beispiele Students only
01: 25.04.2017 1. Einführung und Übersicht (1)	1.1 Motivation Zufallszahlen Experiment und Theorie Statistische und Systematische Fehler 1.2 Wahrscheinlichkeitsverteilungen Wahrscheinlichkeiten Erwartungswert und Varianz Grundlegende Verteilungen	[Folien] [Zusammenfassung] Beispiele (siehe auch: G.Quast, Rechner-Nutzung WS 16/17) wuerfel.C, animate_Binomial.py, animate_GaussFunctions.py, animate_basicDistributions.py, baseDistributions.C basicDistributions.py
02: 02.05.2017 1. Einführung und Übersicht (2)	Fehlerfortpflanzung Korrelationen 1.3 Parameterschätzung Kleinste Quadrate Maximum Likelihood 1.4 Ausblicke Konfidenz-Intervalle Hypothesentests Klassifikation und maschinelles Lernen	[Folien] [Zusammenfassung] Beispiele (siehe auch G.Quast, Rechner-Nutzung WS 16/17) chi2PDF.C, chi2PDF-pyroot.py, fitf1.C, datavstheory.C
03: 09.05.2017 2. Zufallszahlen und Monte Carlo Methoden	2.1 Die Monte Carlo Methode Berechnung von hochdimensionalen Integralen 2.2 Zufallszahlen Pseudo-Zufallszahlen Linear Congruent Generators Tests für Zufallszahlen 2.3 Erzeugung von Verteilungen Rückweisungsverfahren Transformationsmethode Varianzreduzierende Verfahren (korrelierte) Gauß-Verteilungen	[Folien] [Zusammenfassung] Beispiele (siehe auch G.Quast, Rechner-Nutzung WS 16/17) calc_pi.C, animate_pi.py, myrand.C, mertwist.C, Distribution-fromImage.py, rangauss2d.C, rangauss2d-pyroot.py
04: 16.05.2017 3. Hypothesentests	3.1. Entscheidung zwischen Hypothesen Einfache und zusammengesetzte Hypothesen Signifikanz, Effizienz und Reinheit 3.2. Vorgehensweise Null-Hypothese Signifikanz-Niveau Kritische Region p-Wert 3.3. Beispiele Binomialtest Poissontest Student'sche t-Verteilung (korrelierte) Gauß-Verteilungen 3.4. Bester Test Neyman und Pearson Lemma: Likelihood-Quotient	[Folien] Papers: C. Anderson, 9 Sept 1932: Science 76 (1967), 238-239 CMS Collaboration: Physics Letters B 759 (2016) 641-662
05: 23.05.2017 4. Parameterschätzung (1)	4.1. Schätzwerte Eigenschaften von Schätzern Mittelwert und Varianz Gewichtetes Mittel Bessel-Korrektur 4.2. Likelihood Analytische Schätzung bei Exponentialverteilung Varianzen von Schätzern Cramer-Rao Grenze Effiziente Schätzer ohne Bias Vergleich Chi2 vs. -logL Binned Likelihood und Zählexperimente	[Folien]
06: 30.05.2017 4. Parameterschätzung (2)	4.3. Methode der kleinsten Quadrate 4.4. Anpassungen und Güte 4.5. Vergleich Chi2 und Likelihood	[Folien] [Nachtrag]
07: 06.06.2017 5. Optimierungs- und Parametrisierungsmethoden	5.1. Hesse Matrix Definition des Optimierungs-Problems Eindimensionale Suchmethoden Suchmethoden in d-Dimensionen: Parameter-Scan, Simplex, Gradienten-Suche, Newton Schritt Nebenbedingungen als Gleichung, Ungleichung oder Kostenfaktor Analytische Schätzung bei Exponentialverteilung 5.2. Markov Kette Stationärer Zustand von ergodischen/regulären Ketten Definition Übergangsfunktion in Abhängigkeit einer Dichtefunktion Metropolis-Hastings-Algorithmus Einfluss der Vorschlagsfunktion Akzeptanzrate, Autokorrelation einer Markov Kette Ausglühen durch Deformation der Dichtefunktion Andere Optimierungs-Algorithmen: Genetische Codes, etc.	[Folien] Videos: [Genetic mp4] [MetropolisHastings mp4] [ParticleSwarm mp4]
08: 13.06.2017 6. Konfidenzintervalle (1)	6.1. Frequentistischer Ansatz Neyman-Konstruktion Obere und untere Schranken Feldman-Cousins Unified Approach 6.2. Bayes'sche Statistik Einfluss des Priors Limits an physikalischen Grenzen 6.3. Modified Frequentist Approach Die CLS Grenze	[Folien] [Zusammenfassung] Beispiel: arbeitsweg.py Movies: CLS_b4_d7.m4v, CLS_b7_d7.m4v, CLS_b10_d7.m4v Papers: R.Cousins Am.J.Phys. 65 (1995) 398 A.Read NIM, A 434 (1999) 435-443 T.Junk J.Phys.G: 28 (2002) 2693-2704
09: 20.06.2017 6. Konfidenzintervalle (2)	6.4. Erinnerung Hypothesentests Prüfgröße Neyman-Pearson Lemma Satz von Wilks 6.5. Profile-Likelihood Quotient Signalstärke,Störparameter,Priors Profile-Likelihood Quotient Higgs Entdeckung Look-Elsewhere Effekt	[Folien (korrigiert)] [Zusammenfassung] Papers: G.Cowan et al EPJ. C71 1554,2011, arxiv.org/abs/1007.1727 CMS+ATLAS CMS-NOTE-2011-005, ATL-PHYS-PUB-2011-11
10: 27.06.2017 7. Klassifikation: MVA und maschinelles Lernen	7.1. Einleitung Klassifikation als Hypothesentest Multivariate Analyse 7.2. Supervised Learning Training und Testing Beispiel: TMVA 7.3. Lineare Diskriminatoren Fisher-Diskriminante Projective Likelihood Hauptkomponentenanalyse(PCA)	[Folien] [Zusammenfassung] Beispiel TrainEvaluateResponse_v10.py
11: 04.07.2017 7. Klassifikation: ANN und BDT	k-nearest neighbours 7.4. Künstliche Neuronale Netze (ANN) Ein- und mehrlagige Perzeptronen Gradientenabstiegsmethode Performance-Beispiel 7.5. Verstärkte Entscheidungsbäume (BDT) Entscheidungsbäume Wald AdaBoost Performance-Beispiel	[Folien] Papers: ANN: F.Rosenblatt, 1958 BDT: Y.Freund and R.E.Schapire, 1996 Beispiel: TrainEvaluateResponse_11.py
12: 11.07.2017 7. Klassifikation: SVM and Deep Learning	7.6. Support Vector Machines (SVM) VC-Dimension Support-Vektoren Kernel-Trick Performance-Beispiel 7.7. Deep Learning Historische Perspektive Representation Learning ConvNets DL in der Teilchenphysik Thomas Keck (IEKP): "Deep Learning: Neueste Entwicklungen"	[Folien, Teil 1] Th.Keck: [Folien, Teil 2] [github]
13: 18.07.2017 8. Messen und Entfalten	8.1. Falten Einleitung Faltungsintegrale Exkurs: Charakteristische Funktion Response-Matrix 8.2. Entfalten Matrix-Inversion Wahl der Bin-Breite Methoden mit Regularisierung	[Folien] Papers: D'Agostini, 1995 S.Schmitt, 2012 Beispiel: fold_main.cxx
14: 25.07.2017 9. Systematische Unsicherheiten	9.1. Konzept Definition Unsicherheit und Fehler Typen systematischer Unsicherheit 9.2. Bestimmung Experimentelle Unsicherheiten Modell-Annahmen Kombination Störparameter Empfehlungen	[Folien]

Last Update: 25.7.2017, Andreas B. Meyer