Projekt Mustererkennung - Exam.pdf

Projekt Mustererkennung - Exam

Projekt Mustererkennung - Exam Aufgabe 1) Einleitung: Im Rahmen der digitalen Bildverarbeitung spielen zahlreiche Techniken und Prinzipien eine zentrale Rolle, um Bilder zu erfassen, zu verarbeiten, und zu analysieren. Eine hochwertige Bildvorverarbeitung ist essenziell, um die Qualität der Bildanalyse zu erhöhen. Weiterhin sind geeignete Methoden zur Segmentierung notwendig, um relevante Bildinfo...

Projekt Mustererkennung - Exam

Aufgabe 1)

Einleitung: Im Rahmen der digitalen Bildverarbeitung spielen zahlreiche Techniken und Prinzipien eine zentrale Rolle, um Bilder zu erfassen, zu verarbeiten, und zu analysieren. Eine hochwertige Bildvorverarbeitung ist essenziell, um die Qualität der Bildanalyse zu erhöhen. Weiterhin sind geeignete Methoden zur Segmentierung notwendig, um relevante Bildinformationen voneinander zu trennen. Schließlich stellen die Merkmaleextraktion und die Bildkompression wichtige Schritte dar, die es erlauben, wesentliche Bildinformationen zu extrahieren und zu speichern.Du hast ein digitales Bild erfasst, das eine Mischung aus verschiedenen Texturen und Objekten vor einem verrauschten Hintergrund zeigt. Führe die folgenden Aufgaben aus, um die verschiedenen Aspekte der digitalen Bildverarbeitung zu demonstrieren.

a)

Beschreibe detailliert den Prozess der Bildvorverarbeitung für das erfasste Bild. Verwende hierbei Techniken zur Rauschreduktion und Kantenextraktion. Gehe dabei auf folgende Punkte ein:

Welchen Filter würdest Du zur Rauschreduktion anwenden? Begründe Deine Wahl.
Welche Methode der Kantenextraktion würdest Du verwenden und warum?
Zeige anhand einer mathematischen Darstellung, wie der gewählte Filter und die Kantenextraktion funktionieren.

Lösung:

Welchen Filter würdest Du zur Rauschreduktion anwenden? Begründe Deine Wahl.
Welche Methode der Kantenextraktion würdest Du verwenden und warum?
Zeige anhand einer mathematischen Darstellung, wie der gewählte Filter und die Kantenextraktion funktionieren.

Antwort:

Filter zur Rauschreduktion: Zur Rauschreduktion würde ich den Gaussian-Filter verwenden. Der Gaussian-Filter ist ein weit verbreiteter und effektiver Filter zur Glättung von Bildern. Er reduziert Rauschen durch Mittelung der Bildwerte nach einer Gaußschen Verteilung. Die Gaußsche Verteilung sorgt dafür, dass Pixelwerte im Zentrum der Filtermaske stärker gewichtet werden als die an den Rändern, was zu einer natürlichen und weichen Glättung führt.Mathematische Darstellung:Der Gaussian-Filter kann mathematisch als zweidimensionale Gaußfunktion beschrieben werden:\[G(x, y) = \frac{1}{2\pi\sigma^2} e^{-\frac{x^2 + y^2}{2\sigma^2}}\]Hierbei ist \(\sigma\) die Standardabweichung der Gauß-Verteilung und definiert den Grad der Glättung. Das Bild wird dann mit dieser Filtermaske gefaltet, um das geglättete Bild zu erhalten.
Methode der Kantenextraktion: Für die Kantenextraktion würde ich den Sobel-Operator verwenden. Der Sobel-Operator ist ein diskreter Differenzoperator, der auf Basis von Gradientenberechnungen arbeitet und speziell darauf ausgelegt ist, Kanten zu betonen. Er bietet eine einfach zu implementierende und effektive Methode zur Kantenextraktion, die robuste Ergebnisse liefert.Mathematische Darstellung:Der Sobel-Operator verwendet zwei 3×3-Kernel, die dazu dienen, die Ableitungen in horizontaler \(G_x\) und vertikaler \(G_y\) Richtung zu berechnen:Horizontaler Kernel (Gx):
```
[[ -1, 0, 1], [-2, 0, 2], [-1, 0, 1]]
```
Vertikaler Kernel (Gy):
```
[[ -1, -2, -1], [ 0,  0,  0], [ 1,  2,  1]]
```
Die Gradienten in x- und y-Richtung werden berechnet mittels:\[G_x = \sum_{i=-1}^1 \sum_{j=-1}^1 K_x(i,j) I(x+i, y+j)\]\[G_y = \sum_{i=-1}^1 \sum_{j=-1}^1 K_y(i,j) I(x+i, y+j)\]Die Gesamtableitung oder Kantenstärke ergibt sich dann aus der Magnitude des Gradienten:\[G = \sqrt{G_x^2 + G_y^2}\]Durch Anwendung dieser Techniken kann das Rauschen im Bild effektiv reduziert und die Kanten der darin enthaltenen Objekte extrahiert werden, was eine verbesserte Weiterverarbeitung ermöglicht.

b)

Nachdem das Bild vorverarbeitet wurde, soll nun eine Segmentierung erfolgen. Nimm an, dass Du einen binären Schwellenwertansatz verwenden möchtest.

Erkläre, wie dieser Ansatz prinzipiell funktioniert.
Welche Herausforderungen können bei der Wahl des Schwellenwertes auftreten?
Beschreibe, wie Du den optimalen Schwellenwert bestimmen würdest. Verwende dabei die Otsu-Methode und gib die zugehörige mathematische Formel an.

Lösung:

Erkläre, wie dieser Ansatz prinzipiell funktioniert.
Welche Herausforderungen können bei der Wahl des Schwellenwertes auftreten?
Beschreibe, wie Du den optimalen Schwellenwert bestimmen würdest. Verwende dabei die Otsu-Methode und gib die zugehörige mathematische Formel an.

Antwort:

Prinzip des binären Schwellenwertansatzes: Der binäre Schwellenwertansatz ist eine einfache Methode zur Bildsegmentierung, bei der das Bild in zwei Klassen unterteilt wird: Vordergrund und Hintergrund. Ein globaler Schwellenwert (Threshold) \(T\) wird festgelegt, um die Pixelwerte zu trennen. Alle Pixelwerte, die größer oder gleich \(T\) sind, werden dem Vordergrund zugeordnet und auf 1 gesetzt, während alle anderen Pixelwerte dem Hintergrund zugeordnet und auf 0 gesetzt werden. Das Resultat ist ein binarisiertes Bild.
Herausforderungen bei der Wahl des Schwellenwertes:
- Varianz in der Beleuchtung: Unterschiede in der Beleuchtung können dazu führen, dass Teile des Vordergrunds oder Hintergrunds falsch segmentiert werden.
- Rauschen: Bildrauschen kann falsche Pixelwerte erzeugen, die die Schwellenwertbestimmung beeinflussen.
- Bildinhomogenität: Bei Bildern mit komplexen Texturen oder mehreren Objekten kann es schwierig sein, einen einzelnen globalen Schwellenwert zu finden, der für alle Teile des Bildes geeignet ist.
Bestimmung des optimalen Schwellenwertes mit der Otsu-Methode: Die Otsu-Methode ist ein Algorithmus zur automatischen Schwellenwertbestimmung, der darauf abzielt, die Varianz innerhalb der Klassen zu minimieren oder die Varianz zwischen den Klassen zu maximieren. Die Methode sucht den Schwellenwert \(T\), der die Summe der Varianzen der beiden resultierenden Klassen (Vordergrund und Hintergrund) minimiert.Mathematische Darstellung:Sei \(L\) die Anzahl der Graustufen im Bild, \(N(k)\) die Anzahl der Pixel des Grauwerts \(k\), und \(P(k) = N(k) / N\) die Wahrscheinlichkeit des Grauwerts \(k\) (wobei \(N\) die Gesamtzahl der Pixel im Bild ist). Die Otsu-Methode berechnet die zwischenklassige Varianz (\(\sigma_B^2\)) für jeden möglichen Schwellenwert \(T\):\[\sigma_B^2(T) = \omega_1(T) \cdot \omega_2(T) \cdot [\mu_1(T) - \mu_2(T)]^2\]Hierbei sind:
- \(\omega_1(T)\) und \(\omega_2(T)\) die Wahrscheinlichkeiten der beiden Klassen (Vordergrund und Hintergrund)
- \(\mu_1(T)\) und \(\mu_2(T)\) die Mittelwerte der Graustufen der beiden Klassen
Die Wahrscheinlichkeiten \(\omega_1(T)\) und \(\omega_2(T)\) sind definiert als:\[\omega_1(T) = \sum_{k=0}^{T-1} P(k)\]\[\omega_2(T) = \sum_{k=T}^{L-1} P(k)\]Die Mittelwerte \(\mu_1(T)\) und \(\mu_2(T)\) werden berechnet als:\[\mu_1(T) = \frac{\sum_{k=0}^{T-1} k \cdot P(k)}{\omega_1(T)}\]\[\mu_2(T) = \frac{\sum_{k=T}^{L-1} k \cdot P(k)}{\omega_2(T)}\]Der optimale Schwellenwert ist der Wert von \(T\), der die zwischenklassige Varianz \(\sigma_B^2(T)\) maximiert:\[T_{optimal} = \underset{T}{{\mathrm{argmax}}} \ \sigma_B^2(T)\]Durch die Verwendung der Otsu-Methode kann der Schwellenwert automatisch und objektiv aus den Bilddaten abgeleitet werden, wodurch die Segmentierung verbessert wird.

c)

Extrahiere Merkmale aus dem segmentierten Bild, die zur Erkennung der verschiedenen Texturen und Formen geeignet sind.

Nenne und beschreibe mindestens drei Merkmale, die Du extrahieren würdest.
Erläutere, wie diese Merkmale zur Unterscheidung der verschiedenen Objekte im Bild beitragen können.
Berechne für eine gegebene Textur im Bild die Haralick-Texturmerkmale. Zeige die Schritte der Berechnung und die zugehörigen mathematischen Formeln auf.

Lösung:

Nenne und beschreibe mindestens drei Merkmale, die Du extrahieren würdest.
Erläutere, wie diese Merkmale zur Unterscheidung der verschiedenen Objekte im Bild beitragen können.
Berechne für eine gegebene Textur im Bild die Haralick-Texturmerkmale. Zeige die Schritte der Berechnung und die zugehörigen mathematischen Formeln auf.

Antwort:

Drei zu extrahierende Merkmale:
- Texturmerkmale (Haralick-Texturmerkmale): Diese Merkmale basieren auf der grauwertabhängigen Kooccurence-Matrix (GLCM) und erfassen die räumlichen Beziehungen zwischen Pixelpaaren in einem Texturbild. Beispiele für Haralick-Texturmerkmale sind Kontrast, Korrelation und Entropie.
- Formmerkmale: Formmerkmale beschreiben die geometrische Struktur von Objekten im Bild. Ein häufig verwendetes Merkmal ist die Rundheit (Circularity), die das Verhältnis von Fläche zu Umfang eines Objekts misst. Weitere Formmerkmale sind die Exzentrizität und die Rechteckigkeit.
- Farbhistogramme: Ein Farbhistogramm ist eine Darstellung der Verteilung der Farbwerte in einem Bild. Es quantifiziert die Anzahl der Pixel, die in jedem der verschiedenen Farbkanäle vorhanden sind (z.B. Rot, Grün, Blau in einem RGB-Bild).
Beitrag der Merkmale zur Unterscheidung der Objekte:
- Texturmerkmale können verwendet werden, um verschiedene Materialien und Oberflächen zu erkennen, da verschiedene Texturen wie rau, glatt oder körnig unterschiedliche GLCM-Werte erzeugen.
- Formmerkmale helfen dabei, geometrisch unterschiedlich geformte Objekte zu identifizieren. Zum Beispiel unterscheidet sich die Rundheit eines Kreises deutlich von der eines Rechtecks.
- Farbhistogramme sind nützlich, um Objekte mit unterschiedlichen Farbmustern zu erkennen. Dies kann hilfreich sein, wenn Objekte ähnliche Formen, aber unterschiedliche Farben haben.
Berechnung der Haralick-Texturmerkmale für eine gegebene Textur:Die Haralick-Texturmerkmale basieren auf der grauwertabhängigen Kooccurence-Matrix (GLCM), die für ein gegebenes Texturbild berechnet wird. Die Schritte zur Berechnung sind:
- Erstellung der GLCM: Die GLCM zählt, wie oft Pixelpaare bestimmter Grauwertkombinationen in einem definierten räumlichen Verhältnis zueinander vorkommen.
- Berechnung der Merkmale: Aus der GLCM werden mehrere statistische Merkmale extrahiert. Hier sind die Formeln für einige wichtige Haralick-Merkmale:
  - Kontrast: Dies ist ein Maß für die Intensität der Kontrastunterschiede im Bild:\[Kontrast = \sum_{i,j} (i-j)^2 P(i, j)\]
  - Korrelation: Dies misst, wie ein Pixel mit seinen Nachbarn korreliert ist:\[Korrelation = \sum_{i,j} \frac{(i - \mu_i)(j - \mu_j) P(i, j)}{\sigma_i \sigma_j}\]Hierbei sind \(\mu_i\), \(\mu_j\), \(\sigma_i\), und \(\sigma_j\) die Mittelwerte und Standardabweichungen der Grauwerte i und j.
  - Entropie: Dies misst die Unordnung oder Komplexität der Textur:\[Entropie = - \sum_{i,j} P(i, j) \log P(i, j)\]
Durch die Kombination dieser Merkmale lässt sich eine Textur detailliert charakterisieren, was die Erkennung und Unterscheidung verschiedener Texturen und Formen im Bild ermöglicht.

Aufgabe 2)

Du betreust ein Projekt, bei dem ein neuronales Netzwerk verwendet werden soll, um Handschrifterkennung durchzuführen. Dazu wird ein tiefes neuronales Netzwerk entworfen, das Bilddaten input nimmt und die erkannten Zeichen output als Klassen klassifiziert. Du entscheidest Dich für ein Convolutional Neural Network (CNN) aufgrund der speziellen Eignung für Bilddaten. Des Weiteren wirst du Backward Propagation und eine geeignete Kostenfunktion implementieren. Diversen Aktivierungsfunktionen und Optimierungsverfahren sollten ebenfalls betrachtet werden.

a)

Beschreibe die Rolle der Aktivierungsfunktionen im neuronalen Netzwerk, und erkläre warum du 'ReLU' gegenüber 'sigmoid' oder 'tanh' für die versteckten Schichten eines CNNs bevorzugen würdest.

Lösung:

Rolle der Aktivierungsfunktionen im neuronalen Netzwerk:Aktivierungsfunktionen bestimmen, ob ein Neuron 'aktiviert' wird oder nicht, indem sie die gewichtete Summe der Eingaben des Neurons transformieren. Sie führen die Nicht-Linearität in das Netzwerk ein, die es ihm ermöglicht, komplexe Muster in den Daten zu lernen und zu repräsentieren.

Ohne Aktivierungsfunktionen: Wäre jedes Neuron eine lineare Funktion der Eingaben, und das Netzwerk könnte nur lineare Beziehungen zwischen Eingaben und Ausgaben modellieren, unabhängig von der Anzahl der Schichten.
Mit Aktivierungsfunktionen: Kann das Netzwerk komplexe, nicht-lineare Beziehungen in den Daten lernen, was für die Lösung von Problemen wie der Handschrifterkennung entscheidend ist.

Warum 'ReLU' (Rectified Linear Unit) gegenüber 'sigmoid' oder 'tanh' bevorzugt wird:
- Schnellere Konvergenz: ReLU hilft den Modellen, schneller zu konvergieren, da es das Problem des verschwindenden Gradienten minimiert. 'Sigmoid' und 'tanh' leiden häufig unter diesem Problem, insbesondere in tiefen Netzwerken.
- Berechnungseffizienz: ReLU ist rechnerisch weniger aufwendig als 'sigmoid' oder 'tanh', da es einfach eine Max(0,x)-Operation durchführt. Dies spart Rechenzeit und Ressourcen.
- Sparse Aktivierungen: Da ReLU dazu neigt, negative Werte auf Null zu setzen, fördert es Sparsität im Netzwerk, indem es nur einige Neuronen aktiviert. Dies kann die Effizienz und die Generalisierungsfähigkeit des Netzwerks verbessern.
- Unbeschränktheit der Ausgabe: Während 'sigmoid' und 'tanh' Werte innerhalb eines bestimmten Bereichs (0 bis 1 bzw. -1 bis 1) beschränken, gibt ReLU einen unbeschränkten positiven Bereich zurück. Dies kann hilfreich sein, um große Ausgabewerte darzustellen.

b)

Schreibe den Backward Propagation Algorithmus in Python, um die Gewichte eines neuronalen Netzwerks zu aktualisieren. Verwende dabei Stochastic Gradient Descent (SGD) als Optimierungsverfahren. Gehe davon aus, dass du die Kostenfunktion als 'Cross-Entropy' definiert hast.

def backward_propagation(parameters, cache, X, Y, learning_rate):    # Deine Implementation hier

Lösung:

Backward Propagation Algorithmus in Python mit SGD:

def backward_propagation(parameters, cache, X, Y, learning_rate):    # Anzahl der Beispiele    m = X.shape[0]        # Initialisiere Gradienten    grads = {}        # Werte aus dem cache holen    A1 = cache['A1']    Z1 = cache['Z1']    A2 = cache['A2']    Z2 = cache['Z2']        # Werte aus den Parametern holen    W1 = parameters['W1']    b1 = parameters['b1']    W2 = parameters['W2']    b2 = parameters['b2']        # Backward Propagation durch das Netzwerk    dZ2 = A2 - Y    dW2 = (1 / m) * np.dot(A1.T, dZ2)    db2 = (1 / m) * np.sum(dZ2, axis = 0, keepdims = True)        dA1 = np.dot(dZ2, W2.T)    dZ1 = dA1 * (A1 > 0)  # ReLU derivative    dW1 = (1 / m) * np.dot(X.T, dZ1)    db1 = (1 / m) * np.sum(dZ1, axis = 0, keepdims = True)        # Gradienten in grads speichern    grads['dW1'] = dW1    grads['db1'] = db1    grads['dW2'] = dW2    grads['db2'] = db2        # Parameter aktualisieren    parameters['W1'] -= learning_rate * grads['dW1']    parameters['b1'] -= learning_rate * grads['db1']    parameters['W2'] -= learning_rate * grads['dW2']    parameters['b2'] -= learning_rate * grads['db2']        return parameters, grads# Beispielaufruf:# backward_propagation(parameters, cache, X, Y, learning_rate=0.01)

Dieser Code führt die Backward Propagation für ein einfaches neuronales Netzwerk mit einer versteckten Schicht durch. Es verwendet SGD zur Aktualisierung der Gewichte und Biases basierend auf den Gradienten, die durch die Backward Propagation berechnet wurden.

d)

Eine neue Bilddatenqualität (High Definition) wird zur Verfügung gestellt, und du möchtest prüfen, wie sich die Änderungen der Bildqualität auf die Effizienz deines CNNs auswirken. Beschreibe detailliert deine methodische Vorgehensweise zur Anpassung deines bestehenden CNN Modells auf die neuen HD-Daten und wie du die Leistung des angepassten Modells bewerten würdest.

Lösung:

Anpassung des bestehenden CNN-Modells an die neuen HD-Daten:

1. Datenvorbereitung:
- Sammlung und Aufteilung: Stelle sicher, dass die neuen HD-Bilddaten gut repräsentiert sind und klassifiziere sie in Trainings-, Validierungs- und Testdatensätze. Ein typisches Verhältnis könnte 70% Training, 15% Validierung und 15% Test sein.

2. Anpassung des CNN-Modells:
- Architekturprüfung: Überprüfe, ob die bestehende Netzwerkarchitektur noch gut auf die höhere Auflösung der Bilder passt. Bei Bedarf füge zusätzliche Convolutional- und Pooling-Schichten hinzu, um feiner aufgelöste Merkmale zu extrahieren.

3. Training:
- Hyperparameter-Tuning: Optimiere Hyperparameter wie Lernrate, Batch-Größe und Anzahl der Epochen durch Experimente und Cross-Validation.

4. Leistungsbewertung:
- Testset-Validierung: Bewerte das Modell auf dem Testdatensatz, der nicht im Training involviert war, um die allgemeine Leistungsfähigkeit zu gewährleisten.
Aufgabe 3)
Bildsegmentierung und ObjekterkennungBildsegmentierung teilt ein Bild in sinnvolle Segmente, während die Objekterkennung diese Segmente identifiziert und klassifiziert. Es gibt verschiedene Methoden zur Segmentierung, wie etwa das Schwellenwertverfahren, Region Growing, Clustering und Konturerkennung. Für die Objekterkennung werden Klassifikatoren und neuronale Netze genutzt. Wichtige Algorithmen umfassen k-means, Watershed, Canny, R-CNN und YOLO. Die Segmentierung kann anhand von Farbintensitäten, Texturen oder räumlichen Informationen erfolgen, während die Erkennung auf Merkmalen wie Form, Farbe und Kanten basiert. Anwendungen dieser Techniken finden sich in der Bildverarbeitung, der medizinischen Bildanalyse und dem autonomen Fahren.
a)
a) Beschreibe den k-means Clustering-Algorithmus zur Bildsegmentierung. Gehe dabei auf die grundlegenden Schritte des Algorithmus ein und erklären, wie er zur Trennung von pixelbasierten Segmenten in einem Bild verwendet werden kann. Zeige die mathematischen Formeln auf, die in k-means verwendet werden.
Lösung:
k-means Clustering-Algorithmus zur BildsegmentierungDer k-means Clustering-Algorithmus ist ein allgemein bekannter Algorithmus zur Clusterbildung, der insbesondere zur Bildsegmentierung verwendet wird, um ein Bild in verschiedene Segmente basierend auf den Pixelwerten zu unterteilen. Hier sind die grundlegenden Schritte des k-means Algorithmus zusammen mit den mathematischen Formeln:
- Initialisierung: Bestimme die Anzahl der Cluster, k, und initialisiere die Clusterzentren (Zentroiden) zufällig oder mithilfe eines heuristischen Verfahrens.
- Zuweisung der Pixel zu den Clustern: Weise jedem Pixel im Bild das nächstgelegene Clusterzentrum zu. Dies erfolgt durch Minimierung der euklidischen Distanz zwischen den Pixeln und den Clusterzentren. Die euklidische Distanz zwischen einem Pixel \(\textbf{x}_i\) und einem Clusterzentrum \(\textbf{C}_j\) wird wie folgt berechnet:
```
\[D(\textbf{x}_i, \textbf{C}_j) = \sqrt{\sum_{d=1}^{D} (x_i^d - C_j^d)^2}\]
```
- Update der Clusterzentroiden: Berechne die neuen Zentroiden der Cluster als das Mittel aller Pixel, die dem jeweiligen Cluster zugewiesen wurden. Dies geschieht nach der Formel:
```
\[\textbf{C}_j = \frac{1}{N_j} \sum_{i \rightarrow j} \textbf{x}_i\]
```
  Hierbei ist \(N_j\) die Anzahl der Pixel im Cluster \(j\) und \(\textbf{x}_i\) die Pixel, die zu diesem Cluster gehören.
- Konvergenzprüfung: Wiederhole die Schritte 2 und 3, bis die Clusterzentren sich nicht mehr signifikant ändern oder eine vorher definierte Anzahl von Iterationen erreicht wird. Dies bedeutet, dass sich die Positionen der Clusterzentren stabilisieren und kaum noch ändern.
Die Anwendung des k-means Algorithmus zur Bildsegmentierung erfolgt durch die iterative Ausführung der oben genannten Schritte. Pixel werden basierend auf ihren Merkmalen wie Farbwerten und Intensität gruppiert, was zu einer natürlichen Segmentierung des Bildes führt. Hierbei entstehen mehrere Cluster, die jeweils ähnliche Farb- und Intensitätswerte repräsentieren.Anwendungsbereiche:
- Medizinische Bildanalyse: Identifizierung und Analyse von Gewebearten in medizinischen Bildern.
- Bildverarbeitung: Segmentierung von Objekten und Hintergründen in digitalen Bildern.
- Autonomes Fahren: Erkennung und Segmentierung von Fahrbahnen, Verkehrsschildern und anderen Fahrzeugen.
b)
b) Der Canny-Algorithmus ist ein gebräuchlicher Kantendetektionsalgorithmus. Beschreibe die Hauptphasen des Canny-Algorithmus und erkläre, warum jede Phase wichtig ist. Diskutiere insbesondere, wie der Algorithmus Kanten in einem verrauschten Bild identifiziert und vermeidet, Kurzstreckenkanten (false positives) zu detektieren.
Lösung:
Canny-Algorithmus zur KantendetektionDer Canny-Algorithmus ist ein weitverbreiteter Kantendetektionsalgorithmus in der Bildverarbeitung und besteht aus mehreren Phasen, die darauf abzielen, Kanten präzise zu erkennen, selbst in verrauschten Bildern. Hier sind die Hauptphasen des Canny-Algorithmus und deren Bedeutung erläutert:
- 1. Glättung (Smoothing): Diese Phase dient zur Reduktion des Rauschens im Bild, welches sonst fälschlicherweise als Kante detektiert werden könnte. Hierzu wird häufig ein Gaußfilter angewendet:
```
\[G(x, y) = \frac{1}{2\pi\sigma^2} e^{-\frac{x^2 + y^2}{2\sigma^2}}\]Hierbei ist \(\sigma\) die Standardabweichung des Gaußfilters, welche die Stärke der Glättung bestimmt.
```
- 2. Gradientberechnung: In dieser Phase wird die Änderung der Intensität im Bild bestimmt, um potentielle Kanten zu identifizieren. Der Gradient (Richtungsableitung) wird über Sobel-Operatoren berechnet:
```
\[G_x = \dfrac{\partial G}{\partial x}, \quad G_y = \dfrac{\partial G}{\partial y}\]Die Gesamtstärke des Gradienten wird berechnet als:\[G = \sqrt{G_x^2 + G_y^2}\]Die Richtung des Gradienten beträgt:\[\theta = \arctan\left(\frac{G_y}{G_x}\right)\]
```
- 3. Nicht-maximale Unterdrückung (Non-maximum suppression): Diese Phase reduziert die Anzahl der falschen Kanten, indem nur jene Punkte als Kante markiert werden, die lokale Maxima in der Richtung des Gradienten sind. Dadurch werden dicke Kantenlinien auf einen einpixelbreiten Weg reduziert.
- 4. Doppelschwellenwertmethode (Double thresholding): In dieser Phase werden zwei Schwellenwerte (Tief- und Hochschwellenwerte) verwendet, um die Kanten in starke und schwache Kanten zu unterteilen:
  - Pixel mit einem Gradientenwert über dem Hochschwellenwert sind starke Kanten.
  - Pixel mit einem Gradientenwert zwischen den beiden Schwellenwerten sind schwache Kanten.
  - Pixel unter dem Tiefschwellenwert werden als Nicht-Kanten behandelt.
- 5. Kantenverbindung (Edge tracking by hysteresis): Diese Phase verbindet schwache Kanten mit starken Kanten, um durchgehende Kanten zu bilden. Schwache Kanten, die keine Verbindung zu starken Kanten haben, werden entfernt. Dies verhindert das Auftreten von Kurzstreckenkanten (false positives) durch das Verbinden von zusammenhängenden Kantenpunkten.
Warum jede Phase wichtig ist:
- Glättung: reduziert Rauschen und verhindert, dass Rauschen als Kante erkannt wird.
- Gradientberechnung: identifiziert Punkte im Bild, an denen sich die Intensität stark ändert (potentielle Kanten).
- Nicht-maximale Unterdrückung: stellt sicher, dass Kanten dünn und präzise sind.
- Doppelschwellenwertmethode: unterscheidet zwischen starken und schwachen Kanten, um sicherzustellen, dass die wichtigsten Kanten erkannt werden.
- Kantenverbindung: entfernt falsch positive Kanten und verbindet zusammenhängende Kanten, um ein klares Kantenbild zu erzeugen.
Durch die Kombination dieser Phasen identifiziert der Canny-Algorithmus effektiv Kanten in verrauschten Bildern und minimiert false positives.
c)
c) In der Objekterkennung sind neuronale Netze wie R-CNN und YOLO essenziell. Wähle einen dieser Algorithmen und beschreibe detailliert, wie er funktioniert. Berücksichtigen dabei die Schritte zur Vorbereitung der Daten, Trainingsprozess und wie das Netzwerk letztendlich Vorhersagen trifft. Setze die Darstellung in Zusammenhang zu praktischen Anwendungen, beispielsweise in der autonomen Fahrzeugführung.
Lösung:
YOLO-Algorithmus (You Only Look Once) zur ObjekterkennungYOLO (You Only Look Once) ist ein leistungsstarker Algorithmus zur Echtzeit-Objekterkennung, der darauf abzielt, mehrere Objekte in einem einzigen Durchlauf des neuronalen Netzes zu erkennen und zu klassifizieren. Im Folgenden beschreiben wir detailliert, wie YOLO funktioniert, einschließlich der Schritte zur Vorbereitung der Daten, des Trainingsprozesses und wie das Netzwerk letztendlich Vorhersagen trifft.1. Vorbereitung der Daten:
- Datensammlung und -annotation: Zunächst wird ein Datensatz von Bildern gesammelt, die die zu erkennenden Objekte enthalten. Diese Bilder werden manuell annotiert, d.h. jedes Bild wird mit den Bounding Boxes (umgrenzende Kästen) und den entsprechenden Klassifikationslabels der Objekte versehen.
- Normalisierung und Resize: Die Bilder werden auf eine einheitliche Größe skaliert (z.B. 416x416 Pixel) und die Pixelwerte normalisiert, um die Eingabe in das neuronale Netz zu vereinheitlichen.
2. Trainingsprozess:
- Architektur des neuronalen Netzes: YOLO verwendet ein einzelnes neuronales Netzwerk, das das gesamte Bild auf einmal betrachtet. Dabei wird das Bild in ein Gitter unterteilt, z.B. 13x13 Zellen. Jede Zelle ist dafür zuständig, Objekte zu erkennen, deren Zentrum innerhalb dieser Zelle liegt.
- Definition der Ausgabe: Jede Zellenausgabe enthält bounding box Koordinaten (x, y, Breite, Höhe), ein Konfidenzwert (Confidence Score) und Klassenwahrscheinlichkeiten (z.B. Hund, Katze, Auto). Ein einzelnes Bild führt also zu einer Ausgabegröße von (S x S x (B * 5 + C)), wobei S die Anzahl der Zellen, B die Anzahl der vorgeschlagenen bounding boxes pro Zelle und C die Anzahl der Klassen repräsentiert.
- Loss-Funktion: Die Loss-Funktion besteht aus drei Hauptkomponenten: Lokalisierungsverlust (Differenz zwischen vorhergesagten und tatsächlichen Bounding Box Koordinaten), Konfidenzverlust (Zuverlässigkeit der Box) und Klassifikationsverlust (Unterschied zwischen vorhergesagten und tatsächlichen Klassen). Damit wird das Netzwerk darauf trainiert, genaue und zuverlässige bounding boxes und Klassen vorherzusagen.
- Backpropagation und Optimierung: Während des Trainingsprozesses wird die Loss-Funktion mittels Backpropagation minimiert. Optimierungsalgorithmen wie z.B. Stochastic Gradient Descent (SGD) oder Adam werden verwendet, um die Netzwerkparameter zu aktualisieren und das Modell zu verbessern.
3. Vorhersageprozess:
- Input-Bild: Für die Erkennung wird ein Bild durch das trainierte neuronale Netz geleitet, das in der Vorverarbeitung ähnlich skaliert und normalisiert wurde wie im Trainingsprozess.
- Vorhersagen generieren: Das Netzwerk liefert für jede Gitterzelle bounding box Vorhersagen mit zugehörigen Konfidenzwerten und Klassenwahrscheinlichkeiten.
- Non-Maximum Suppression (NMS): Mehrfachdetections desselben Objekts werden mithilfe einer Technik namens Non-Maximum Suppression gefiltert. Dabei bleiben nur die bounding boxes mit höchsten Konfidenzwerten übrig, und sich überschneidende Boxen, die dieselbe Klasse repräsentieren, werden unterdrückt.
Praktische Anwendungen:
- Autonome Fahrzeugführung: YOLO kann in autonomen Fahrzeugen verwendet werden, um in Echtzeit Verkehrsschilder, Fußgänger, andere Fahrzeuge und Hindernisse auf der Straße zu erkennen. Die schnelle und genaue Erkennung ermöglicht es dem Fahrzeug, entsprechend zu reagieren, z.B. durch Anhalten, Ausweichen oder Anpassen der Geschwindigkeit.
- Überwachungssysteme: In Überwachungssystemen kann YOLO zur Erkennung und Verfolgung von Personen oder Objekten in Videoaufnahmen eingesetzt werden, um Sicherheitswarnungen zu generieren oder verdächtiges Verhalten zu identifizieren.
- Medizinische Bildanalyse: YOLO kann in der medizinischen Bildverarbeitung verwendet werden, um Anomalien oder spezifische Strukturen in medizinischen Bildern wie Röntgenaufnahmen oder MRTs zu erkennen.
Aufgabe 4)

Du hast zwei Data Science Projekte und möchtest entscheiden, ob Du überwachtes oder unüberwachtes Lernen verwenden solltest.
Projekt A: Du hast ein Dataset, das Informationen über verschiedene Häuser enthält, einschließlich der Anzahl der Räume, Lage, Größe, Baujahr, und des Preises. Dein Ziel ist es, den Preis eines Hauses basierend auf diesen Merkmalen vorherzusagen.
Projekt B: Du hast ein großes Kunden-Dataset von einem Online-Shop, das verschiedene Merkmale wie demografische Informationen, Kaufhistorie und Surfverhalten enthält. Du möchtest die Kunden in verschiedene Gruppen segmentieren, um gezielte Marketingstrategien zu entwickeln.

a)
Entscheide, ob Du für Projekt A ein überwachtes oder unüberwachtes Lernverfahren verwenden würdest. Begründe Deine Entscheidung und formuliere die Loss-Funktion, die Du für dieses Problem verwenden würdest. Nutze hierbei die im vorgegebenen Material verwendete Formel.
Lösung:
Für Projekt A:
Da Projekt A das Ziel hat, den Preis eines Hauses basierend auf verschiedenen Merkmalen vorherzusagen, handelt es sich hierbei um ein Vorhersageproblem. Für Vorhersageprobleme wird üblicherweise ein überwachtes Lernverfahren (Supervised Learning) verwendet. Das liegt daran, dass wir ein beschriftetes Dataset haben, bei dem die Ausgabevariable (der Preis eines Hauses) bekannt ist und wir diese Variable anhand der Eingabevariablen (die Merkmale des Hauses) vorhersagen wollen.
Für die Auswahl der Loss-Funktion in einem Regressionsproblem wie diesem, bei dem kontinuierliche Werte (Preise) vorhergesagt werden sollen, ist eine gängige Methode die Mean Squared Error (MSE). Die MSE gibt die durchschnittliche Quadratsumme der Abweichungen zwischen den vorhergesagten Werten und den tatsächlichen Werten an. Sie wird mit folgender Formel berechnet:
\[ MSE = \frac{1}{n} \sum_{i=1}^{n} (y_i - \hat{y_i})^2 \]
Hierbei ist:
- n: Die Anzahl der Datenpunkte im Dataset.
- y_i: Der tatsächliche Preis des Hauses i.
- \hat{y_i}: Der vorhergesagte Preis des Hauses i.
b)
Entscheide, ob Du für Projekt B ein überwachtes oder unüberwachtes Lernverfahren verwenden würdest. Begründe Deine Wahl und beschreibe, welches spezifische Verfahren Du verwenden würdest, um dieses Problem zu lösen. Nutze die Formel aus dem gegebenen Material als Referenz.
Lösung:
Für Projekt B:
Projekt B hat zum Ziel, Kunden in verschiedene Gruppen zu segmentieren, um gezielte Marketingstrategien zu entwickeln. Hierbei handelt es sich um eine Klassifizierung ohne vorher bekannte Gruppen-Labels. Dies ist typisch für ein unüberwachtes Lernverfahren (Unsupervised Learning). In diesem Fall haben wir kein vorher festgelegtes Label, das wir vorhersagen möchten, sondern wir wollen selbst herausfinden, welche natürlichen Gruppen oder Cluster in den Daten existieren.
Um dieses Problem zu lösen, würde ich ein Clustering-Verfahren verwenden. Eine gängige Methode in der Cluster-Analyse ist der K-Means-Algorithmus.
Der K-Means-Algorithmus versucht, die Daten in k Cluster zu partitionieren, indem er jeden Datenpunkt dem Cluster mit dem nächstgelegenen Mittelwert (Centroid) zuordnet.
Die zu minimierende Loss-Funktion, auch als Within-Cluster-Sum-of-Squares (WCSS) bekannt, ist definiert als:
\[ WCSS = \sum_{i=1}^{k} \sum_{x_j \in C_i} \left\| x_j - \mu_i \right\|^2 \]
Hierbei ist:
- k: Die Anzahl der Cluster.
- C_i: Das i-te Cluster.
- x_j: Der j-te Datenpunkt im i-ten Cluster.
- \mu_i: Der Mittelwert (Centroid) des i-ten Clusters.
Durch Minimieren dieser Funktion erhalten wir Cluster, bei denen die Punkte innerhalb eines Clusters möglichst nah beieinander liegen.
c)
Angenommen, Du hast für beide Projekte jeweils ein geeignetes Modell gefunden. Beschreibe, wie Du die Leistung Deines Modells für Projekt A und Projekt B bewerten würdest. Nutze dabei geeignete Metriken und beschreibe deren Bedeutung.
Lösung:
Leistungsbewertung für Projekt A:
Da Projekt A ein Regressionsproblem ist, bei dem der Preis von Häusern vorhergesagt werden soll, sollten wir Metriken verwenden, die Vorhersagefehler messen. Einige gängige Metriken für Regressionsprobleme sind:
- Mean Squared Error (MSE): MSE misst die durchschnittliche quadratische Differenz zwischen den tatsächlichen und den vorhergesagten Werten. Es wird mit folgender Formel berechnet:
\[ MSE = \frac{1}{n} \sum_{i=1}^{n} (y_i - \hat{y_i})^2 \]
Hierbei ist:
- n: Die Anzahl der Datenpunkte.
- y_i: Der tatsächliche Preis des Hauses i.
- \hat{y_i}: Der vorhergesagte Preis des Hauses i.
- Root Mean Squared Error (RMSE): RMSE ist die Quadratwurzel des MSE und hat dieselbe Einheit wie die zu messende Größe (hier Hauspreis). Es macht die Interpretation der Fehlergröße leichter: \[ RMSE = \sqrt{MSE} \]
- Mean Absolute Error (MAE): MAE misst die durchschnittliche absolute Differenz zwischen den tatsächlichen und den vorhergesagten Werten. Es wird mit folgender Formel berechnet:
\[ MAE = \frac{1}{n} \sum_{i=1}^{n} |y_i - \hat{y_i}| \]
- R-squared (R²): R² misst, wie gut die Vorhersagen im Vergleich zum Durchschnitt der tatsächlichen Werte sind. Es gibt den Anteil der Varianz der abhängigen Variable an, der durch das Modell erklärt wird: \[ R^2 = 1 - \frac{\sum_{i=1}^{n} (y_i - \hat{y_i})^2}{\sum_{i=1}^{n} (y_i - \bar{y})^2} \] Hierbei ist \(\bar{y}\) der Durchschnitt der tatsächlichen Werte.
Leistungsbewertung für Projekt B:
Für Projekt B, bei dem Kunden in Gruppen segmentiert werden, handelt es sich um ein Clustering-Problem. Metriken zur Bewertung der Performance von Clustering-Algorithmen beinhalten:
- Silhouetten-Koeffizient: Dieser Koeffizient misst, wie ähnlich ein Punkt zu seinem eigenen Cluster im Vergleich zu anderen Clustern ist. Er reicht von -1 (schlecht) bis +1 (ideal), wobei Werte um 0 anzeigen, dass die Cluster sich überlappen: \[ s(i) = \frac{b(i) - a(i)}{\max(a(i), b(i))} \] Hierbei ist \(a(i)\) der durchschnittliche Abstand vom Punkt i zu allen anderen Punkten im selben Cluster und \(b(i)\) der durchschnittliche Abstand vom Punkt i zu allen Punkten im nächstgelegenen Cluster.
- Davies-Bouldin-Index: Ein weiterer Index zur Bewertung eines Clustering-Ergebnisses, der die durchschnittliche Ähnlichkeit jedes Clusters mit demjenigen Cluster, dem es am ähnlichsten ist, berechnet. Kleinere Werte sind besser und deuten auf eine bessere Clustertrennung hin: \[ DBI = \frac{1}{n} \sum_{i=1}^{n} \max_{i eq j} \left( \frac{\sigma_i + \sigma_j}{d(c_i, c_j)} \right) \] Hierbei ist \(\sigma\) die Streuung innerhalb eines Clusters und \(d(c_i, c_j)\) der Abstand zwischen den Centroiden zweier Cluster i und j.

Projekt Mustererkennung - Exam.pdf

Projekt Mustererkennung - Exam

Aufgabe 1)

a)

b)

c)

Aufgabe 2)

a)

b)

d)

Aufgabe 3)

a)

b)

c)

Aufgabe 4)

a)

b)

c)

Unternehmen

Produkt

Hilfe

Projekt Mustererkennung - Exam.pdf

Projekt Mustererkennung - Exam

Aufgabe 1)

a)

b)

c)

Aufgabe 2)

a)

b)

d)

Aufgabe 3)

a)

b)

c)

Aufgabe 4)

a)

b)

c)

Melde dich kostenlos an, um Zugriff auf das vollständige Dokument zu erhalten