Kurs Maschinelles Lernen und Datenanalyse in der Prüf- und Messtechnik

Kurs Maschinelles Lernen und Datenanalyse in der Soziologie

Ein Tandem Kurs für verschiedene Zielgruppen im Fachbereich 4 und 8!

Angaben

Dozent

PD Dr. Stefan Bosse, Univ. Bremen, FB Mathematik und Informatik

Studiengänge

FB 4

• Produktionstechnik
• Systems Engineering
• Prozessorientierte Materialforschung
• Informatik
• Wirtschaftsingenieure

Modulbereich: Bachelor und Master Vertiefung

FB 8

• Soziologie
• Psychologie
• Wirtschaftswissenschaften

Themen für Seminararbeiten

Klasse

1. Rewviewartikel mit der Erarbeitung und Diskussion des Stand der Technik und Wissenschaft zu einer ausgewählten Fragestellung im Themengebiet ML und Datenanalyse/interpretation. Abgabe eines Arbeit im PDF im Umfang von min. 10 bis ca. 20 Seiten.

2. Forschungsarbeit mit Programmierung und Diskussion von Ergebnissen mit einem ausgewählten Datensazu un einer Fragestellung im Themengebiet ML und Datenanalyse/interpretation (D.h., ML als Werkzeug, Verwendung ausschliesslich von ML Framework aus dem Kurs und den WorkBooks). Weiterhin Abgabe einer schriftlichen Arbeit im PDF im Umfang von min. 7 bis ca. 15 Seiten.

Fragestellungen/Themen

1. Reviewartikel

• Wo kann Deep Learning sinnvoll eingesetzt werden, wo nicht. Was sind Randbedingungen und wie sieht es mit der Robustheit aus (Einfluss von Rauschen z.B.).

• Welche ethischen und gesellschaftlichen Fragen und Veränderungen können sich aus dem Einsatz von ML ergeben? Wo wird ML bereits eingesetzt?

• Problem bei ML ist die Parametrisierung und Merkmalsselektion, meist durch Experten durchgeführt. Gibt es hybride Ansätze von ML Verfahren, wo z.B. ein Lernen das autom. Labelling von Daten übernimmt die eine zweite überw. Lerninstanz dann verarbeitet? Also hybride Lerner von Lernern?

• Einsatz von ML in der Strukturüberwachung: Möglichkeiten, Nutzen, Grenzen.

• Einsatz von ML in der Soziologie: Möglichkeiten, Nutzen, Grenzen.

• Einsatz von ML in der Bildung: Lernende Bildungssysteme

2. Forschungsarbeit

• Datensätze und somit Fragestellungen können auch hier gefunden werden:

  • https://www3.nd.edu/~busiforc/problems/DataMining/dataminingdatasets.html
  • https://archive.ics.uci.edu/ml/datasets.php?format=&task=&att=&area=&numAtt=&numIns=&type=&sort=nameUp&view=list
  • https://data.world
• Datensätze gerne auch aus vorhandenen Experimenten wenn es Zielvariablen gibt und überwachtes Lernen möglich ist.

Referenzen

• HTML

Medien FB 4

Medien FB 8

Materialien

Tutorials - Hinweise

• Die Übungen und Tutorials sind rein digital mit Notebooks durchführbar.

• Alle editierbaren Inhalte des Notebooks (Code, Lösungen, Kommentare, PostIts, aber nicht Konsolenausgaben) können gespeicher werden (JSON Dateiformat). Personenbezogene Daten werden nicht gespeichert.

• Die Lösungen werden direkt im Notebook eingereicht. Dazu gibt es jetzt in den Notebooks am Ende mehrere Buttons...

• Lösungen der Übungen werden über den Button "Einreichung" übermittelt. Nur eine Einreichung pro assignment ist möglich (bei Korrektur Hilfe Anfrage senden). Name und Email eintragen, Pin gibt es über StudIP Nachricht oder direkte Anfrage an Dozenten. Die Inhalte des Notebook werden automatsich übertragen. Es gibt eine Bestätigungsmail.

• Die Submission ID wird bekannt gegeben → Merken (auch in Bestätigungsmail).

• Hilfe kann jederzeit über den Button "Hilfe" angefordert werden (dann via automatischer Email). Die Inhalte des Notebooks werden automatisch mit übertragen.

• Die Lösung kann mit dem Button "Prüfen" in ein leeres Notebook geladen werden. Nach der Korrektur/Bewertung kann diese ebenfalls auf die gleiche Weise eingesehen (und natürlich auch lokal abgespeichert) werden.

• Bei der Hilfeanforderung gibt es eine Ticket ID. Diese auch merken! Wenn es eine Antwort (via Email) gibt dann kann wieder über den Button "Prüfen" jetzt unter Angabe der Ticket ID die vom Dozenten korrigierte oder annotierte Version geladen werden.

Das System ist im experimentellen Stadium. Bei Problemen bitte melden!

Tutorials FB 4

Tutorials FB 8

Inhalte FB 4

Diese Veranstaltung bietet einen praxisorientierten Einstieg in die Sensor- und Messdatenanalyse mit Maschinellen Lernverfahren für Produktionstechniker und Materialwissenschaftler. Neben Grundlagen des Maschinellen Lernens (vom Entscheidungsbaum bis zum künstlichen Neuronalen Netz), deren Anwendbarkeit und Probleme stehen praktische interaktive Übungen im Vordergrund. Der WEB Browser wird zum Labor! Die Veranstaltung findet digital und online statt. Es werden auch "hardwarenahe" Themen wie ML auf eingebetteten Systemen adressiert!

1. Sensoren, Digitale Sensordaten, Big Data

   • Stark und schwach korrelierte Daten (Big Data?)
   • Frage nach den Modellen
   • Rauschen

2. Grundlagen der Sensordatenerfassung und Verarbeitung

   • Sensornetzwerke
   • Labormessungen
   • Zerstörungsfreie Prüfverfahren - Art der Messdaten
   • Struktur- und Lastüberwachung (SHM)
   • Datenvorverarbeitung (Merkmalsselektion)
   • Principle Component Analysis (PCA)

3. Grundlagen des Maschinellen Lernens (Metriken und Taxonomie)

   • Der Funktionale Ansatz: Das Black-Box Modell
   • Überwachtes Lernen - Der Experte ist gefragt!
   • Nichtüberwachtes Lernen, Clustering - Ich sehe etwas was Du nicht siehst?
   • Rückgekoppeltes Lernen - Belohnungen führen zum Ziel!
   • Inkrementelles Lernen - Lernen auf Datenströmen ist ein Problem?
   • Agentenbasiertes und verteiltes Lernen - Nicht hier, sondern überall!

4. Algorithmen und Modelle

   • Entscheidungsbäume (C45, ID3, ICE), Random Forest Bäume - Einfach aber gut?
   • Support Vector Machines (binäre und multi-Klassen) - Der Klassiker!
   • Künstliche Neuronale Netze (Ein- und mehrlagig) - Warum kein Deep Learning?
   • Regressionsverfahren
   • Iterative, randomisierte, und evolutionäre Lernalgorithmen - Deterministische Modelle?

5. Training, Lernen, Prädiktion, Test

   • Merkmalsextraktion - Information aus Daten
   • Ablaufdiagramme - Arbeitsvorschrift!
   • Testmethoden
   • Probleme
   • Überanpassung
   • Zu viel oder zu wenige Daten?
   • Qualität der Daten, Einfluss von Rauschen auf Lernen und Prädiktion
6. Anwendungen, Demonstrationen, Beispiele, Laborübungen (integriert in 2-5)

Ziele FB 4

1. Die Studenten sollen die Grundlagen von Maschinellen Lernen und deren Aufgaben, Ziele, und Anwendungen verstehen sowie Einblicke in Algorithmen und Datenmodelle erwerben. Wann Deep Learning, wann und warum nicht!

2. Es soll der Unterschied zwischen Modell (Modellrepräsentation und Datenstrukturen) und den Lern- und Prädiktionsalgorithmen verstanden werden.

3. Die Studenten sollen anhand einfacher Laborübungen mit einem WEB basierten ML Baukasten und Analysewerkzeug (Ausführung im WEB Browser oder mit node-webkit) auf einfache Weise verschiedene Lernverfahren auf verschiedene Trainingsdaten anwenden, unterscheiden und bewerten können.

4. Verständnis und Anwendung der Datenvorverarbeitung und Bedeutung von Quantität und Qualität der Trainingsdaten.

5. Es soll ein Verständnis der Probleme im Umgang und der Anwendung von ML Verfahren anhand von praktischen Beispielen und Übungen erworben werden. Dabei soll die Fähigkeit erworben werden, selbstständig geeignete ML Verfahren für eine bestimmte Problemstellung aus der Mess- und Prüftechnik auswählen zu können.

6. Durch Praxisnähe sollen am Ende der Veranstaltung die Studenten in der Lage sein, Messdaten mit ML Verfahren sinnvoll und zielgerichtet verarbeiten zu können und den Nutzen und die Probleme beim Einsatz von ML realistisch bewerten können.

Voraussetzungen FB 4

• Grundlegende Programmierfähigkeiten wären wünschenswert (sind aber nicht erforderlich)
• Grundlegende Mathematik Kenntnisse (Funktionen, Statistik)
• Grundverständnis von Sensoren und Messtechnik

Inhalte FB 8

Diese Veranstaltung bietet einen praxisorientierten Einstieg in die Datenanalyse mit Maschinellen Lernverfahren für Soziologen. Neben Grundlagen des Maschinellen Lernens (vom Entscheidungsbaum bis zum künstlichen Neuronalen Netz), deren Anwendbarkeit und Probleme stehen praktische interaktive Übungen im Vordergrund. Der WEB Browser wird zum Labor! Die Veranstaltung findet digital und online statt.

1. Sensoren, Digitale Sensordaten, Big Data, Umfragen

   • Stark und schwach korrelierte Daten (Big Data?)
   • Frage nach den Modellen
   • Der Mensch als Sensor und Datenlieferant
   • Daten aus Umfragen und Erhebungen (Soziologie, Medizin)
   • Rauschen

2. Grundlagen der Sensordatenerfassung und Verarbeitung

   • Umfragen, Crowd Sensing, (Mobile) Sensornetzwerke mit Smartphones
   • Datenvorverarbeitung (Merkmalsselektion)
   • Principle Component Analysis (PCA)

3. Grundlagen des Maschinellen Lernens (Metriken und Taxonomie)

   • Der Funktionale Ansatz: Das Black-Box Modell
   • Überwachtes Lernen - Der Experte ist gefragt!
   • Nichtüberwachtes Lernen, Clustering - Ich sehe etwas was Du nicht siehst?
   • Rückgekoppeltes Lernen - Belohnungen führen zum Ziel!
   • Inkrementelles Lernen - Lernen auf Datenströmen ist ein Problem?
   • Agentenbasiertes und verteiltes Lernen - Nicht hier, sondern überall!

4. Algorithmen und Modelle

   • Entscheidungsbäume (C45, ID3, ICE), Random Forest Bäume - Einfach aber gut?
   • Support Vector Machines (binäre und multi-Klassen) - Der Klassiker!
   • Künstliche Neuronale Netze (Ein- und mehrlagig) - Warum kein Deep Learning?
   • Regressionsverfahren
   • Iterative, randomisierte, und evolutionäre Lernalgorithmen - Deterministische Modelle?

5. Training, Lernen, Prädiktion, Test

   • Merkmalsextraktion - Information aus Daten
   • Ablaufdiagramme - Arbeitsvorschrift!
   • Testmethoden
   • Probleme
   • Überanpassung
   • Zu viel oder zu wenige Daten?
   • Qualität der Daten, Einfluss von Rauschen auf Lernen und Prädiktion
6. Anwendungen, Demonstrationen, Beispiele, Laborübungen (integriert in 2-5)

Ziele FB 8

1. Die Studenten sollen die Grundlagen von Maschinellen Lernen und deren Aufgaben, Ziele, und Anwendungen verstehen sowie Einblicke in Algorithmen und Datenmodelle erwerben. Wieso Deep Learning, wann und wann nicht!

2. Es soll der Unterschied zwischen Modell (Modellrepräsentation und Datenstrukturen) und den Lern- und Prädiktionsalgorithmen verstanden werden.

3. Die Studenten sollen anhand einfacher Laborübungen mit einem WEB basierten ML Baukasten und Analysewerkzeug (Ausführung im WEB Browser oder mit node.js in der Kommandozeile) auf einfache Weise verschiedene Lernverfahren auf verschiedene Trainingsdaten anwenden, unterscheiden und bewerten können.

4. Verständnis und Anwendung der Datenvorverarbeitung und Bedeutung von Quantität und Qualität der Trainingsdaten.

5. Es soll ein Verständnis der Probleme im Umgang und der Anwendung von ML Verfahren anhand von praktischen Beispielen und Übungen erworben werden. Dabei soll die Fähigkeit erworben werden, selbstständig geeignete ML Verfahren für eine bestimmte Problemstellung aus der Soziologie auswählen zu können.

6. Durch Praxisnähe sollen am Ende der Veranstaltung die Studenten in der Lage sein, Messdaten mit ML Verfahren sinnvoll und zielgerichtet verarbeiten zu können und den Nutzen und die Probleme beim Einsatz von ML realistisch bewerten können

Voraussetzungen FB 8

• Grundlegende Programmierfähigkeiten wären wünschenswert (JavaScript, sind aber nicht erforderlich)
• Grundlegende Mathematik Kenntnisse (Funktionen, Statistik)
• Grundverständnis der Soziologie, Umfragen, Erhebungen