Die unsichtbaren Strippenzieher: Jugendliche sollten Algorithmen hinterfragen lernen

Der Einsatz von Algorithmen kann nützlich sein – oder gefährlich. So ganz eindeutig lässt sich das nicht immer sagen. Sicher ist nur, dass Algorithmen bestimmen, was wir sehen. Sie analysieren unser Verhalten und personalisieren daraufhin Auswahlmöglichkeiten, wenn es zum Beispiel um Mediennutzung oder Konsumentscheidungen geht. Und viele Schüler wissen nicht einmal, dass Algorithmen in ihr tägliches Leben eingreifen.

Es gibt einen Punkt, an dem Algorithmen ganz klar gefährlich werden: wenn sie diskriminieren. Wenn beispielsweise Individuen oder ganze Gruppen von bestimmten Angeboten ausgeschlossen werden. „In den USA verwenden viele Unternehmen Algorithmen bei der Vorauswahl von Stellenbewerbern. Was, wenn diese Algorithmen dazu neigen, Personen aus ärmeren Wohnvierteln eher auszusortieren, weil sie einen längeren Anfahrtsweg zum Arbeitsplatz haben? Ebenso könnten Preisalgorithmen im Online-Handel individuelle Preise an das Geschlecht anpassen, wenn sie denken, dass Frauen tendenziell bereit sind, für ein Produkt mehr zu zahlen als Männer“, nennt Miika Blinn, Referent des Verbraucherzentrale Bundesverbands (vzbv) im Team Digitales und Medien, zwei Beispiele möglicher Diskriminierung.

Verbraucherschutzminister Heiko Maas (SPD) plädierte deshalb noch vor der Wahl für drei Neuerungen im Bereich der Algorithmen: für ein „digitales Antidiskriminierungsgesetz“, für ein Transparenzgebot für Algorithmen und für die Gründung einer Digitalagentur, die beispielsweise die behördliche Kontrolle von Algorithmen übernehmen könnte. Wie viele es von seinen Vorschlägen in die neue Legislaturperiode schaffen, ist unklar. Die Diskussion wird aber sicherlich weitergeführt werden.

Algorithmen-TÜV für Verbraucher

Die Verbraucherzentralen hatten sich bereits Anfang des Jahres für einen „Algorithmen-TÜV“ stark gemacht. „Algorithmen dürfen kein Geheimnis sein. Nur wenn klar ist, mit welchen Kriterien Algorithmen arbeiten und wie diese bewertet werden, können sich Verbraucher gegen Diskriminierung wehren“, sagte der Chef des Verbraucherzentrale Bundesverbands (vzbv), Klaus Müller. Die Verbraucherzentrale Rheinland-Pfalz weist in einer Publikation außerdem darauf hin, dass eine Gefahr für die Meinungsvielfalt in der Demokratie bestehen könnte: „Eine Selektion von Inhalten schadet dem politischen Diskurs, wenn Algorithmen den Informationshorizont des Einzelnen fortlaufend nur auf bekannte und vertraute Meinungen beschränkt.“ Solche Filterblasen könnten insgesamt die Realitätswahrnehmung verzerren, weshalb Algorithmen nicht länger Black-Boxes bleiben dürften.

Kritik kommt derweil von der Digitalwirtschaft. „Mit diesem Vorschlag sendet die Bundesregierung das völlig falsche Signal an internationale Investoren, die digitale Wirtschaft und Tech-Start-ups in Deutschland“, so Bitkom-Hauptgeschäftsführer Bernhard Rohleder gegenüber dem „Handelsblatt“. Und die Unternehmen, die von solchen neuen Regelungen betroffen wären, berufen sich auf ihre Geschäftsgeheimnisse und den Wettbewerb. Sie könnten es sich nicht leisten, öffentlich darzulegen, auf welche Weise Entscheidungen, an denen Algorithmen beteiligt sind, zustande kommen.

„Algorithmen fallen nicht vom Himmel“

Zu bezweifeln ist allerdings, dass – sollte Google beispielsweise wider Erwarten doch seinen Algorithmus offenlegen – die Mehrheit der Verbraucher wirklich etwas damit anfangen könnte. Eine Forderung, auf die sich ein Großteil der Experten einigen könnten, ist deshalb eine unabhängige Aufsichtsbehörde, welche die Funktions- und Arbeitsweise von Algorithmen nachvollziehen und prüfen kann. „Wenn ich mir die Inhaltsstoffe eines Medikaments ansehe, verstehe ich ja auch kein Wort“, so Matthias Spielkamp von „Algorithm Watch“ gegenüber der „taz“. „Ich muss mich doch darauf verlassen können, dass eine Zulassungsstelle geprüft hat, dass ich nicht sterbe, wenn ich ein Medikament nehme.“

Es wäre zumindest ein Anfang, wenn sich ein Großteil der Bevölkerung die Gefahren, die von Algorithmen ausgehen können, bewusst machen. „Wichtig ist, dass Schüler – sowie alle Verbraucher – verstehen: Algorithmen fallen nicht vom Himmel“, so Miika Blinn im Interview, „ihre Entscheidungen sind nicht unbedingt objektiv, richtig oder neutral. Sie werden von Menschen mit individuellen Wertevorstellungen und unterschiedlichen Interessen programmiert.“ Blinn könnte sich in bestimmten Fällen auch eine Kennzeichnungspflicht vorstellen, damit dem Einzelnen überhaupt deutlich würde, dass algorithmische Entscheidungsprozesse eingesetzt werden.

Aufklärungsarbeit im Unterricht

Für Philipp Knodel gehört das Wissen, wie Algorithmen prinzipiell funktionieren, zu einem digitalen beziehungsweise informatischen Grundverständnis, das eigentlich jede Person – unabhängig ob alt oder jung – besitzen sollte. Feststellen muss der Bildungsexperte und Gründer des Non-Profits „App Camps“ allerdings immer wieder, dass viele Jugendliche überhaupt nicht wissen, was sich hinter dem Wort Algorithmus verbirgt. „Es ist ähnlich wie mit der Fake-News Debatte“, zieht Philipp Knodel den Vergleich, „mit dem Begriff können inzwischen viele Leute etwas anfangen, aber das Verständnis dafür, was das genau ist, wie Fake News entstehen und wie Social Bots funktionieren, fehlt. Dieser technische Teil kommt meiner Meinung nach in der öffentlichen Diskussion viel zu kurz.“ Er ist sich sicher: In der Schule könnte man das ändern! Hier könnte die notwendige Aufklärungsarbeit ansetzen.

Zusammen mit seiner Frau Diana Knodel hat Philipp Knodel 2013 das Startup „App Camps“ gegründet. Angefangen haben sie mit einem Feriencamp für Jugendliche zum Thema App Entwicklung. Hinzugekommen sind in den vergangenen Jahren weitere Kurse zum Thema Programmieren, wie „Calliope mini“ für die Grundschule oder der Einstiegskurs in das Programm Scratch. „Uns ist wichtig, sehr praktisch zu arbeiten“, erklärt Philipp Knodel, „wir erklären nicht trocken, was Variablen oder Algorithmen sind und legen dann los, sondern genau umgekehrt: Wir fangen erst einmal mit der Programmierung an und erklären den Teilnehmern im Anschluss – in Form von Videos und ganz kleinen Häppchen – was dort gerade technisch passiert ist.“ Die Evaluation zeige: Die Vermittlung über das praktische Erleben funktioniert gut, auch weil das Ehepaar damit diejenigen erreicht, die kein Vorinteresse mitbringen.

Grundlagenvermittlung: Der Kurs „Rund um Daten“

Eine Ausnahme ist der neue App-Camp-Kurs „Rund um Daten“. Algorithmen sind darin eingebettet in das Oberthema Daten: Wie entstehen Daten im Internet, welche Daten hinterlassen wir, wenn wir uns im Internet bewegen, wie arbeiten Suchmaschinen und was bedeutet eigentlich Big Data? Gleichzeitig werden Fragen aufgegriffen, warum beispielsweise Dienste wie Twitter, Instagram und Snapchat eigentlich kostenlos sind. Philipp Knodel fasst das Konzept des Kurses zusammen: „Die Teilnehmer lernen zu verstehen, was Daten sind, wie Algorithmen mit diesen Daten arbeiten und was im Anschluss mit den riesigen Datensätzen aus dem Internet passiert.“

Wichtig sei ihm, wie bei allen Kursen, das Internet weder als gut noch als gefährlich darzustellen. „Wir versuchen, die Zusammenhänge zu erklären, um dann gemeinsam mit den Jugendlichen Chancen und auch Risiken herauszuarbeiten und zu diskutieren.“ Beim Thema Daten führen Philipp und Diana Knodel zum Beispiel gerne eine Internetseite vor, die in Echtzeit präsentiert, wie viele Daten pro Tag, pro Minute und Sekunde entstehen – in Form von Facebook-Likes, Instagram-Fotos oder YouTube-Kommentaren. „Das hebt den Blick auf ein neues Level“, ist sich Philipp Knodel sicher.

Algorithmen für Grundschüler

Sogar in der Grundschule lassen sich Algorithmen schon praktisch ausprobieren. Die CS Education Research Group der University of Canterbury, Neuseeland, um den Informatiker Tim Bell stellt auf ihrer Webseite „csunplugged.org“ Ideen vor, wie auch jüngeren Kindern das Prinzip eines Algorithmus vermittelt werden kann. „CSunplugged“ steht dabei für „Computer Science Unplugged“, es werden also Unterrichtsmethoden entwickelt, die ohne technische Geräte auskommen und trotzdem Ideen der Informatik vermitteln. Algorithmen werden hier als Weg beschrieben, Informationen oder Gegenstände möglich effektiv in einer sinnvollen Reihenfolge zu ordnen. In einem Video zum Thema „Sorting Algorithms“ zeigt Tim Bell, wie Kinder acht unterschiedlich schwere Gewichte und eine Waage vor sich haben. Die Aufgabe besteht darin, die beste Methode zu finden, um die Gruppe der Klötze möglichst schnell nach Gewicht zu ordnen (eine ausführliche Beschreibung gibt es außerdem als pdf-Datei). Am Ende zeigt sich: Mit der richtigen Sortiermethode geht es schneller und man braucht weniger Arbeitsschritte.

Philipp und Diana Knodel versuchen ebenfalls, schon jüngeren Kindern solch informatisches Wissen anschaulich zu vermitteln. Sie haben ein Buch für Acht- bis Zehnjährige geschrieben, mit dem Titel „Einfach programmieren für Kinder“. Dort erklären sie Algorithmen als eine Art Landkarte für Computer, eine digitale Wegbeschreibung sozusagen. Wie schnell kann es wohl bei einer solchen Landkarte passieren, dass einzelne Personen oder Orte vergessen und nicht gefunden werden? Wer das versteht, hat schon eine ganze Menge dazu verstanden, wie Algorithmen zur Anwendung kommen.