Projekt zur Künstlichen Intelligenz - Cheatsheet

Neuronale Netze und Deep Learning

Definition:

Neuronale Netze: Modelle, die von der Funktionsweise des menschlichen Gehirns inspiriert sind und zur Mustererkennung und Datenklassifikation genutzt werden. Deep Learning: Teilgebiet des Machine Learnings, das tiefere neuronale Netzwerke zur Verarbeitung großer Datenmengen verwendet.

Details:

• Architektur: Besteht aus Eingabeschicht, mehreren versteckten Schichten und einer Ausgabeschicht.
• Aktivierungsfunktionen: Signalfunktionen wie ReLU, Sigmoid, Tanh.
• Backpropagation: Verfahren zur Fehlerminimierung durch Anpassung der Gewichte.
• Lernrate: Parameter, der bestimmt, wie stark die Gewichte pro Iteration angepasst werden.
• Overfitting: Modell passt sich zu stark an Trainingsdaten an, Lösung: Regularisierung, Dropout.
• Convolutional Neural Networks (CNNs): Speziell für Bildverarbeitung.
• Recurrent Neural Networks (RNNs): Speziell für sequentielle Daten wie Zeitreihen.
• Loss-Funktion: Maß zur Bewertung der Modellleistung, z.B. MSE, Cross-Entropy.

Genetische Algorithmen

Definition:

Kombinatorische Optimierungsverfahren, die Prinzipien der natürlichen Evolution nachahmen.

Details:

• Initialisierung: Erzeugung einer zufälligen Population von Individuen.
• Eignungsbewertung: Bewertung jedes Individuums anhand einer Fitnessfunktion.
• Selektion: Auswahl der besten Individuen zur Reproduktion.
• Kreuzung (Crossover): Kombination zweier Individuen zur Erzeugung neuer Nachkommen.
• Mutation: Zufällige Änderungen an Nachkommen zur Einführung von Variabilität.
• Iteration: Wiederholung des Prozesses über mehrere Generationen zur Optimierung der Lösungen.
• Terminierung: Der Algorithmus stoppt nach einer festen Anzahl von Generationen oder wenn eine optimale Lösung gefunden wurde.

Reinforcement Learning

Definition:

Reinforcement Learning (RL) ist eine Methode des maschinellen Lernens, bei der ein Agent in einer Umgebung Aktionen ausführt und durch Belohnungen lernt, welche Aktionen den höchsten kumulierten Nutzen bringen.

Details:

• Grundprinzip: Agent erhält Belohnungen (Rewards) basierend auf Aktionen
• Ziel: Maximierung des langfristigen Nutzens (cumulative reward)
• Hauptkomponenten: Agent, Umfeld (Environment), Aktionen (Actions), Zustände (States), Belohnung (Reward)
• Bekannte Algorithmen: Q-Learning, Deep Q-Network (DQN), Policy Gradients
• Bellman-Gleichung: \[ Q(s, a) = R(s, a) + \gamma \max_{a'} Q(s', a') \]
• Exploration vs. Exploitation: Balanceakt zwischen neuen Aktionen testen (explore) und bekannten, nutzbringenden Aktionen ausführen (exploit)
• Anwendungsgebiete: Spiele (z.B. AlphaGo), Robotik, Ressourcenmanagement

Bayes'sche Netze

Definition:

Bayes'sche Netze sind grafische Modelle, die Wahrscheinlichkeitsbeziehungen zwischen Variablen darstellen.

Details:

• Bestehen aus Knoten (Variablen) und Kanten (Abhängigkeiten).
• Verwenden Bayes'schen Theorem zur Berechnung bedingter Wahrscheinlichkeiten:
• \[P(A | B) = \frac{P(B | A) \, P(A)}{P(B)}\]
• Ermöglichen Inferenz durch Aktualisierung von Wahrscheinlichkeiten bei neuen Beobachtungen.
• Anwendungen in Diagnostik, Spracherkennung, maschinellem Lernen und mehr.

Algorithmische Optimierung

Definition:

Algorithmische Optimierung beschäftigt sich mit der Verbesserung bestehender Algorithmen hinsichtlich Effizienz und Laufzeitverhalten.

Details:

• Ziel: Minimierung der Ausführungszeit und Ressourcennutzung
• Methoden: Greedy-Algorithmen, dynamische Programmierung, lokale Suche
• Mathematische Formulierung: Optimierungsprobleme als Minimierungs- oder Maximierungsprobleme, z.B. \[\text{minimiere } f(x) \]
• Anwendungen: Maschinelles Lernen, Operations Research, Spiele

Hyperparameter-Tuning

Definition:

Prozess der Optimierung von Hyperparametern eines Modells, um die Leistung zu maximieren, ohne die Trainingsdaten zu verändern.

Details:

• Hyperparameter: Parameter, die vor dem Training festgelegt werden (z.B. Lernrate, Anzahl der Schichten).
• Methoden: Grid Search, Random Search, Bayesian Optimization.
• Ziel: Optimalen Wertebereich durch Evaluierung auf Validierungsdatensatz finden.
• Grid Search: Erschöpfende Suche über einen definierten Parameterraum.
• Random Search: Zufällige Auswahl von Hyperparameter-Kombinationen.
• Bayesian Optimization: Modellierung der Leistung als Funktion der Hyperparameter zur intelligenten Auswahl.

Ethische Fragestellungen wie Bias und Fairness in Algorithmen

Definition:

Ethische Fragestellungen wie Bias und Fairness in Algorithmen behandeln die moralischen und sozialen Auswirkungen der Verzerrungen und Gerechtigkeit in künstlichen Intelligenzsystemen.

Details:

• Bias: Algorithmen können voreingenommen sein gegenüber bestimmten Daten und somit diskriminierende Entscheidungen treffen.
• Fairness: Sicherstellen, dass Algorithmen Gleichbehandlung und faire Ergebnisse für alle Nutzer unabhängig von deren Hintergrund gewährleisten.
• Vermeidung von Bias durch verschiedene Techniken wie z.B. Datenvorverarbeitung (Data Preprocessing) und Anpassung der Modellgestaltung.
• Regulierung und Richtlinien für ethische KI-Entwicklung entwickeln und umsetzen.
• Berücksichtigung sozialer und kultureller Implikationen bei der Entwicklung und Implementierung von KI-Systemen.

Projektdesign und Planung in interdisziplinären Teams

Definition:

Projektdesign und Planung in interdisziplinären Teams bezieht sich auf die Strukturierung und Organisation eines Projekts zur Lösung komplexer Probleme durch die Zusammenarbeit von Experten aus verschiedenen Fachbereichen.

Details:

• Identifikation der Projektziele und Anforderungen
• Definition der Rollen und Verantwortlichkeiten im Team
• Erstellung eines detaillierten Projektplans mit Meilensteinen
• Effiziente Kommunikation und Koordination zwischen den Teammitgliedern
• Verwendung agiler Methoden zur flexiblen Anpassung an Änderungen
• Regelmäßige Überprüfung und Anpassung des Projektfortschritts
• Risiken identifizieren und Strategien zur Risikominderung entwickeln