Die am meisten verwendete Programmiersprache im Bereich Deep Learning ist Python. Dies liegt unter anderem daran, dass die populärsten Frameworks wie TensorFlow oder PyTorch auf Python setzen. In dem Workshop vermitteln wir ein grundlegendes Verständnis der Syntax von Python und dessen Eigenheiten. Auf dieser Basis beschäftigen wir uns dann mit neuronalen Netzen. Die Umsetzung dieser findet mit dem Framework TensorFlow statt. 

In diesem Abschnitt lernen wir wie neuronale Netze aufgebaut sind. Darüber hinaus betrachten wir wie Daten in ein solches Netz eingegeben und verarbeitet werden. Ein weiterer wichtiger Aspekt wird das Training von neuronalen Netzen sein.  

Unabhängig davon, ob man Bilder, Texte oder Audio Dateien mit einem neuronalen Netz verarbeiten will, müssen Daten in eine simple numerische Form gebracht werden, damit ein neuronales Netz damit arbeiten kann. Daher beschäftigen wir uns in diesem Teil des Workshops mit der Vorverarbeitung von Daten. Dies ist in jedem Fall eine absolute Voraussetzung zur Entwicklung von Deep Learning Systemen. 

Häufig werden neuronale Netzen in sogenannten Jupyter Notebooks entwickelt. Diese Notebooks könnte man am ehesten mit einer IDE vergleichen, jedoch gibt es deutliche Unterschiede. Da der Workflow bei der Entwicklung von neuronalen Netzen teilweise stark vom üblichen Workflow eines klassischen Programmierers abweicht ist es sehr hilfreich mit solchen Notebooks zu arbeiten. Neuronale Netze sind häufig mit wenig Code umgesetzt und werden in einzelne Codeblöcke gegliedert. Diese Blöcke werden meistens mehrfach ausgeführt, da man nicht immer die optimalen Parameter kennt. Notebooks erlauben genau dies zu tun. Code kann in Einzelteilen ausgeführt werden, ohne dass dabei das gesamte Programm immer wieder von vorne ausgeführt werden muss. Im Workshop verwenden wir Google Colab, welches kompatibel zu gängigen Jupyter Notebooks und in Google Drive integriert ist.

Grundsätzlich kann man mit neuronalen Netzen sehr viele unterschiedliche Probleme lösen. Jedoch brauchen unterschiedliche Problemdomänen im Detail auch sehr unterschiedliche Architekturen. Da wir im Workshop nicht die Kapazität haben diverse Bereiche zu bedienen, fokussieren wir uns auf Klassifikationsprobleme. Diese Art von Problemen kommen häufig vor und eignen sich ideal für den Einstieg in neuronale Netze. Beispiele sind Qualitätskontrollen von Produkten, Einschätzung von Textinhalten oder Diagnostik von Krankheiten.

Ludwig ist ein auf TensorFlow aufbauendes Framework, das es erlaubt neuronale Netze viel einfacher zu erstellen. Dies wird erreicht, indem die Architektur des Netzes in eine separate Konfigurationsdatei ausgelagert wird. In dieser Datei können dann auch verschiedene andere Parameter eingestellt werden. Da Ludwig diverse Vorverarbeitungs-Mechanismen integriert, ist das aufbereiten der Eingangsdaten deutlich vereinfacht. Man muss in den meisten Fällen nur den Typ eines Datums angeben und Ludwig kümmert sich um den Rest. Ein weiterer Vorteil ist, dass Ludwig neben Klassifikation auch viele andere Probleme lösen kann. Somit lassen sich diverse andere Probleme lösen wie Übersetzung von Texten oder Generierung von Textbeschreibung zu Bildern.