Automatische Schadensdiagnostik

In der Werkstoff- und Prüftechnik

PD Stefan Bosse

Universität Bremen - FB Mathematik und Informatik / AG 0

Universität Siegen - FB Maschinenbau / LMW

1 / 49

PD Stefan Bosse - Automatische Schadensdiagnostik - Modul 0 Überblick ::

Überblick

Wie können wir Zusammenhänge in der Werkstofftechnik mit Prüfungen bestimmen?

2 / 49

PD Stefan Bosse - Automatische Schadensdiagnostik - Modul 0 Überblick ::

Überblick

Wie können wir Zusammenhänge in der Werkstofftechnik mit Prüfungen bestimmen?

Wie können wir Zusammenhänge aus Daten ableiten?

3 / 49

PD Stefan Bosse - Automatische Schadensdiagnostik - Modul 0 Überblick ::

Überblick

Wie können wir Zusammenhänge in der Werkstofftechnik mit Prüfungen bestimmen?

Wie können wir Zusammenhänge aus Daten ableiten?

Wie können wir automatisiert Schäden aus Daten erkennen und charakterisieren?

4 / 49

PD Stefan Bosse - Automatische Schadensdiagnostik - Modul 0 Überblick ::

Überblick

Wie können wir Zusammenhänge in der Werkstofftechnik mit Prüfungen bestimmen?

Wie können wir Zusammenhänge aus Daten ableiten?

Wie können wir automatisiert Schäden aus Daten erkennen und charakterisieren?

Verfahren, Methoden, Algorithmen, Modelle

5 / 49

PD Stefan Bosse - Automatische Schadensdiagnostik - Modul 0 Überblick :: Anwendungen

Anwendungen

Anwendungsklassen von Maschinellen Lernen

6 / 49

PD Stefan Bosse - Automatische Schadensdiagnostik - Modul 0 Überblick :: Motivation

Motivation

Dieser Kurs mit interaktiven Übungen soll:

  • Einen anwendungsorientierten Einstieg in die Datenanalyse in der Werkstoff- und Prüftechnik sowie Interpretation mit Verfahren des Maschinellen Lernens bieten;

  • Einen Überblick über gängige und weniger gängige Verfahren geben;

  • Interaktive Tutorials und Übungen mit zielgruppenorientierten Fallbeispielen sollen Verfahren begreifbar und erfahrbar machen!

7 / 49

PD Stefan Bosse - Automatische Schadensdiagnostik - Modul 0 Überblick :: Inhalte

Inhalte

  • Die Ontologie des Kurses besteht aus den Bausteinklassen:

    • Modelle (Datenstrukturen)
    • Verfahren (Algorithmen: Training, Test, Inferenz)
    • Überwachtes Training
    • Nichtüberwachtes Training

  • Weiterhin aus den Anwendungs- und Datenklassen:

    • Sensorische und experimentelle Daten (Mess- und Prüftechnik)
    • Schadensmerkmale und Eigenschaften von Werkstoffen
    • Metrische und Kategorische Variablen
8 / 49

PD Stefan Bosse - Automatische Schadensdiagnostik - Modul 0 Überblick :: Inhalte

Die Grenzen der Datenklassen sind fließend! Material, Maschine und Bauteil als Sensoren!

9 / 49

PD Stefan Bosse - Automatische Schadensdiagnostik - Modul 0 Überblick :: Inhalte

Gemeinsame Verfahren und Modelle → Unterschiedliche Daten, Aussagen, Anwendungen

10 / 49

PD Stefan Bosse - Automatische Schadensdiagnostik - Modul 0 Überblick :: Organisation der Veranstaltung

Organisation der Veranstaltung

  1. Vorlesungen mit integrierten Übungen

    • Vermittlung der Grundlagen
    • Unmittelbare Übung und Anwendung der Grundlagen mit einfachen Übungen

  2. Asynchrone Videos und Tutorials

    • Auch offline seh- und hörbar

  3. Gemeinsame Treffen mit Videokonferenz (Zoom, falls erforderlich)

  4. Interaktive Tutorials und Übungen mit NoteBook und WorkBook (NoteBook-2) im Web Browser!

    • Offline ausführbar (evtl. werden Daten von einem Server geladen)
    • Programmiersprache: R
11 / 49

PD Stefan Bosse - Automatische Schadensdiagnostik - Modul 0 Überblick :: Organisation der Veranstaltung

Organisation der Veranstaltung

  1. Projektarbeiten: Forschendes Lernen

    • Nach Einführung der Grundlagen und einigen interaktiven Übungen gibt es eine konkrete zu bearbeitende Aufgabe
    • Wöchentliches Treffen und Besprechung (on-line), i.A., peer-to-peer
    • Am Ende Abgabe eines Berichts und ein Vortrag

  2. Texte und Folien

    • Vorlesungsskript (am Anfang: für jedes Modul/jede Einheit) als Ebook
    • Das Vorlesungsskript gibt die Folieninhalte 1:1 wieder (nur anderes Layout und kompaktiert)
    • Alle Folien im HTML Format (auch offline lesbar) und PDF
    • Begleitende Literatur (Bücher im PDF)
12 / 49

PD Stefan Bosse - Automatische Schadensdiagnostik - Modul 0 Überblick :: Services

Services

  1. Web Service: Informationen, Dokumente, Folien, Videos:
    https://edu-9.de/Lehre/asd3k

  2. Dokuwiki: News, Informationen und Links, Chats, Videostreams:
    https://ag-0.de/dokuwiki

    • Registrierung und Login erforderlich
    • Interaktiv!
  1. Videos: https://edu-9.de/Lehre/asd3k
13 / 49

PD Stefan Bosse - Automatische Schadensdiagnostik - Modul 0 Überblick :: Prüfungsleistungen

Prüfungsleistungen

  1. Bearbeitung der Aufgabe (Programmierung und Dokumentation)

  2. Abgabe Bericht

  3. Vortrag

14 / 49

PD Stefan Bosse - Automatische Schadensdiagnostik - Modul 0 Überblick :: Literatur

Literatur

  • Zur Vertiefung!

S. Richter, Statistisches und maschinelles Lernen. Springer Spektrum, 2019.

E. Alpaydın, Introduction to Machine Learning. MIT Press, 2010.

15 / 49

PD Stefan Bosse - Automatische Schadensdiagnostik - Modul 0 Überblick :: Literatur

Programmierung

Hadley Wickham, Garrett Grolemund, R for Data Science: Import, Tidy, Transform, Visualize, and Model Data. 2017

Uwe Ligges, Programmieren mit R. 2006.

16 / 49

PD Stefan Bosse - Automatische Schadensdiagnostik - Modul 0 Überblick :: Literatur

Domainspezifische Literatur

J. Bell, Machine Learning - Hands-On for Developers and Technical Professionals. John Wiley & Sons, Ltd, 2015.

C. R. Farrar and K. Worden, Structural Health Monitoring: A Machine Learning Perspective. Wiley-Interscience, 2013.

17 / 49

PD Stefan Bosse - Automatische Schadensdiagnostik - Modul 0 Überblick :: Software

Software

Textuelle oder grafische Programmierung?

18 / 49

PD Stefan Bosse - Automatische Schadensdiagnostik - Modul 0 Überblick :: Software

Software

Textuelle oder grafische Programmierung?

Effiziente Berechnung (Performance)?

19 / 49

PD Stefan Bosse - Automatische Schadensdiagnostik - Modul 0 Überblick :: Software

Software

Textuelle oder grafische Programmierung?

Effiziente Berechnung (Performance)?

Lernkurve und Einfachheit bei gleichzeitg hoher Ausdrucksfähigkiet (Abstraktion)?

20 / 49

PD Stefan Bosse - Automatische Schadensdiagnostik - Modul 0 Überblick :: Software

Programmiersprachen

Python

  • Prozedurale und objektorientierte Programmiersprache
  • Mittlere Ausdrucksstärke
  • Polymorphie
  • "Unhandliche" Syntax durch Einrückung

R

  • Prozedurale, funktionale, und teils deklarative Sprache
  • Arrays
  • Teils sehr mächtige Funktionen und Ausdrücke
  • Abstraktion von Ausdrücken, deklarativ
  • Polymorphie

JavaScript

  • Prozedurale, funktionale, und teils objektorientierte Sprache
  • Gepackte Arrays (C Layout)
  • Polymorphie
21 / 49

PD Stefan Bosse - Automatische Schadensdiagnostik - Modul 0 Überblick :: Software

Programmiersprachen: Implementierung

Python

  • Virtuelle Maschine
    • Bytecode Interpreter (langsam!)
  • Terminal
  • Browser: Jupyter mit Server
  • Numerische Berechnungen nicht direkt in Python möglich (nur C/C++)

R

  • Virtuelle Maschine
    • Bytecode Interpreter (mittel!)
    • Just-in-time native code Compiler (?, JIT, schnell)
  • Terminal
  • Browser: R Studio mit Server
  • Numerische Berechnungen eventuell direkt in R möglich (sonst C/C++)

JavaScript

  • Virtuelle Maschine
    • Bytecode Interpreter (schnell!) und teils
    • Just-in-time native code Compiler (JIT, sehr schnell)
  • Terminal und Browser
  • Numerische Berechnungen direkt in JavaScript möglich
22 / 49

PD Stefan Bosse - Automatische Schadensdiagnostik - Modul 0 Überblick :: Software

NoteBook

  • Interaktive vorwiegend praktische Übungen werden rein digital im Web Browser mit den NoteBooks durchgeführt

  • Ein digitale Übung (oder Tutorial) besteht aus:

    • Textabschnitten
    • Informationsblöcken
    • Aufgaben (mit Lösungen)
    • Editoren für Programmcode
    • Ausführungsterminals für Programmcode
    • uvm.
23 / 49

PD Stefan Bosse - Automatische Schadensdiagnostik - Modul 0 Überblick :: Software

Ein NoteBook im WEB Browser

24 / 49

PD Stefan Bosse - Automatische Schadensdiagnostik - Modul 0 Überblick :: Software

NoteBook Konzept

  • Top-down Bearbeitungsfluss

  • Statische Struktur mit dynamischen Inhalten

  • Alle dynamischen Inhalte können in einer JSON Datei gespeichert und wieder geladen werden

  • Es können Notizzettel überall im NoteBook angeheftet werden (werden auch gespeichert)

  • Musterlösungen (dynamische Inhalte) können eingebettet und mit einem Schlüssel freigeschaltet werden

25 / 49

PD Stefan Bosse - Automatische Schadensdiagnostik - Modul 0 Überblick :: WorkBook

WorkBook

  • Dynamische Struktur mit dynamischen Inhalten

  • Ein WorkBook besteht aus

    • Textabschnitten (MarkDown)
    • Codesnippets mit Editoren und Ausgabekonsolen
    • Speziellen Snippets wie editierbare Tabellen oder allg. Formulare

  • Programmierung in JavaScript, aber menügesteuerte und geführte Auswahl von Ausführungsblöcken mit einer kursspezifischen Bibliothek

  • Alle dynamischen Inhalte und Daten können im JSON Format gespeichert und wieder geladen werden

Die NoteBook Konzepte (Editierbare Aufgaben und Einreichungs-/Hilfefunktion) sind jetzt auch hier integriert

26 / 49

PD Stefan Bosse - Automatische Schadensdiagnostik - Modul 0 Überblick :: WorkBook

Ein WorkBook Beispiel

27 / 49

PD Stefan Bosse - Automatische Schadensdiagnostik - Modul 0 Überblick :: Programmiersprache?

Programmiersprache?

Python

import numpy as np
l=1 r=1 y=l+t
v=np.array([1,2,3])
w=np.array([4,5,6])
u=np.add(v, w)

R

l=1 r=1 y=l+r
v=c(1,2,3) 
w=c(4,5,6)
u=v+w

JS

l=1 r=1 y=l+r
v=[1,2,3]
w=[4,5,6]
u=v.map((x,i) => 
    (x+w[i]))
v=new Float32Array([1,2,3])
w=new Float32Array([4,5,6])
u=new Float32Array(3)
for(var i=0;i<v.length;i++)
  u[i]=v[i]+w[i];
28 / 49

PD Stefan Bosse - Automatische Schadensdiagnostik - Modul 0 Überblick :: Programmiersprache?

Programmiersprache?

  • R:

    • Weit verbreitet,
    • läuft nicht im Browser oder nw.js direkt
    • Umfrangreiche Softwareinstallation und DevTools erforderlich

  • WorkBook/JS:

    • Nicht weit verbreitet,
    • läuft im Browser und nw.js direkt,
    • Keine Softwareinstallation (außer nw.js)

Synthese: R in JS mit Transpiler R → JS und Unterstützung gängiger Bibliotheken (PSciLab/WorkBook)

29 / 49

PD Stefan Bosse - Automatische Schadensdiagnostik - Modul 0 Überblick :: Programmiersprache?

Programmiersprache?

Vergleich der Softwarearchitekturen für verschiedene Programmiersprachen

30 / 49

PD Stefan Bosse - Automatische Schadensdiagnostik - Modul 0 Überblick :: Machinelles Lernen

Machinelles Lernen

Schlüsselwörter und Begriffe

Welche Begriffe werden häufig bei ML genannt:

31 / 49

PD Stefan Bosse - Automatische Schadensdiagnostik - Modul 0 Überblick :: Machinelles Lernen

Anwendungsgebiete

Welche Anwendungsgebiete gibt es:

32 / 49

PD Stefan Bosse - Automatische Schadensdiagnostik - Modul 0 Überblick :: Machinelles Lernen

Fragestellungen

Welche Fragestellungen (zu lösende Probleme) gibt es:

33 / 49

PD Stefan Bosse - Automatische Schadensdiagnostik - Modul 0 Überblick :: Inhalte

Inhalte

  1. Eingabe x: Daten (Attribute) und Eigenschaften (Analyse)

  2. Sensoren: Erfassung von Daten, S(welt): welt → x

  3. Ausgabe y: Numerische und kategorische Werte

  4. Metriken und Taxonomie: Grundlagen des Maschinellen Lernens

  5. Algorithmen und Modelle: f(x): x → y

  6. Training, Lernen, Prädiktion, Test M(<x,y>): <x,y> → f

  7. Anwendungen

34 / 49

PD Stefan Bosse - Automatische Schadensdiagnostik - Modul 0 Überblick :: Geschichte

Geschichte

www.pinterest.com Die Geschichte fokussiert auf Neuronale Netze. Es gibt mehr.

35 / 49

PD Stefan Bosse - Automatische Schadensdiagnostik - Modul 0 Überblick :: Modelle

Modelle

  1. Entscheidungsbäume (gerichtete Graphen)

  2. Funktionen (z.B. Polynome)

  3. Funktionsgraphen (z.B. künstliche neuronale Netzwerke)

  4. Ungerichtete Graphen (Gruppenbildung)

  5. Zyklische und azyklische Graphen

36 / 49

PD Stefan Bosse - Automatische Schadensdiagnostik - Modul 0 Überblick :: Algorithmen

Algorithmen

  1. Entscheidungsbäume: C4.5, ID3, IDT, Regressionsbäume
    • Teilungsverfahren (mit Entropie, Informationsgewinn, usw.)
  2. Lineare und nichtlineare Regression, Support Vector Machines (SVM)
    • Least Square Fit (iterativ, mehrschrittig)
    • Lineare Algebra (numerisch, einschrittig)
  3. Datenanalyse!: Hauptkomponentenanalyse, statistische Methoden
  4. Bayesien Netzwerke mit statistischem Methoden (probabalistische Verfahren)
  5. Rückwärtspropagation von Fehlergradienten (vor allem KNN) aus Vorwärtsberechnung
  6. Überwachte und nichtüberwachte Trainingsverfahren
  7. Zustandsbasierte Funktionen (LSTM) für Datenserien
37 / 49

PD Stefan Bosse - Automatische Schadensdiagnostik - Modul 0 Überblick :: Datenanalyse und Eigenschaftsselektion

Datenanalyse und Eigenschaftsselektion

Wir unterscheiden folgende Klassen von Eigenschaften in der Datenanalyse und Prädiktion (Merkmale, Features):

  1. Eigenschaften der Eingabedaten, vor allem dominante Eigenschaften abgeleitet aus den Eingabedaten x mit starker y Korrelation

    • Beispiel: Charakteristische Signalfrequenz einer Betriebsschwingung die auf einen Schaden hindeutet

  2. Zieleigenschaften, also Werte der Zielvariable y

    • Numerische Eigenschaften (kontinuierlich oder diskret), z.B. Materialdichte, Schadensposition, Bruchdehnung
    • Kategorische Eigenschaften, Z.B. Farbe, Tierart, Schadensklasse, Entscheidungen
38 / 49

PD Stefan Bosse - Automatische Schadensdiagnostik - Modul 0 Überblick :: Datenanalyse und Eigenschaftsselektion

Datenanalyse und Eigenschaftsselektion

Häufig sind die rohen sensorischen Daten(variablen) zu hochdimensional und noch abhängig voneinander (schwache Korrelation mit y)

39 / 49

PD Stefan Bosse - Automatische Schadensdiagnostik - Modul 0 Überblick :: Datenanalyse und Eigenschaftsselektion

Datenanalyse und Eigenschaftsselektion

Häufig sind die rohen sensorischen Daten(variablen) zu hochdimensional und noch abhängig voneinander (schwache Korrelation mit y)

Reduktion auf wesentliche Merkmale kann ML Qualität deutlich verbessern!

40 / 49

PD Stefan Bosse - Automatische Schadensdiagnostik - Modul 0 Überblick :: Datenanalyse und Eigenschaftsselektion

Datenanalyse und Eigenschaftsselektion

Häufig sind die rohen sensorischen Daten(variablen) zu hochdimensional und noch abhängig voneinander (schwache Korrelation mit y)

Reduktion auf wesentliche Merkmale kann ML Qualität deutlich verbessern!

Häufig besitzen einzelne Sensorvariablen keine oder nur geringe Aussagekraft (geringe Entscheidbarkeitsqualität) → geringe bis keine Korrelation mit y oder sogar Antikorrelation (Störung)

41 / 49

PD Stefan Bosse - Automatische Schadensdiagnostik - Modul 0 Überblick :: Datenverarbeitung

Datenverarbeitung

  • Die Daten die als Grundlage für die Induktion (Lernen) und die Deduktion (Applikation/Inferenz der Zielvariablen) müssen i.A. vorverarbeitet werden → Merkmalsselektion
42 / 49

PD Stefan Bosse - Automatische Schadensdiagnostik - Modul 0 Überblick :: Datenverarbeitung

Datenverarbeitung

  • Die Daten die als Grundlage für die Induktion (Lernen) und die Deduktion (Applikation/Inferenz der Zielvariablen) müssen i.A. vorverarbeitet werden → Merkmalsselektion

6 Maschinelles Lernen ist ein Werkzeug der Datenanalyse und des Data Minings

43 / 49

PD Stefan Bosse - Automatische Schadensdiagnostik - Modul 0 Überblick :: Datenverarbeitung und Programmausführung

Datenverarbeitung und Programmausführung

Vergleich verschiedener Ausführungs und Datenverarbeitungskonzepten

44 / 49

PD Stefan Bosse - Automatische Schadensdiagnostik - Modul 0 Überblick :: Modellbildung

Modellbildung

100 Kausale vs. Prädiktive Modellbildung und Physikalische Modelle versa algorithmisch bestimmte Modelle (Hypothesen)

45 / 49

PD Stefan Bosse - Automatische Schadensdiagnostik - Modul 0 Überblick :: Modellbildung

Modellbildung

Am Anfang stehen Messdaten aus Experimenten

46 / 49

PD Stefan Bosse - Automatische Schadensdiagnostik - Modul 0 Überblick :: Modellbildung

Modellbildung

Ableitung von Eingabemerkmalen aus den Messdaten

47 / 49

PD Stefan Bosse - Automatische Schadensdiagnostik - Modul 0 Überblick :: Modellbildung

Modellbildung

Training passt Modellparameter deart an dass f(x);x→y die Eingabemerkmale mit geringsten Fehler auf die Ausgabemerkmale anpasst

48 / 49

PD Stefan Bosse - Automatische Schadensdiagnostik - Modul 0 Überblick :: Induktion und Deduktion

Induktion und Deduktion

6 Ablauf Überwachtes Lernen mit Trainings- (Induktion) und Applikationsphasen (Deduktion). Aber: Meistens keine Verallgemeinerung!

49 / 49