Schlaue Algorithmen an den Grenzen der Digitalisierung Teil 2

Mit Algorithmen lässt sich schlecht diskutieren

Der Siegeszug der Algorithmen scheint unaufhaltsam zu sein. Egal vor welche Aufgabe die Experten sie auch stellen, irgendwann scheint die Leistungsfähigkeit der Maschinen die des Menschen zu erreichen oder gar zu übertreffen: Sie spielen besser Schach, Go und selbst Poker als wir. Sie erkennen den Inhalt von Bildern, sie verstehen das gesprochene Wort und übersetzen es auf Wunsch. Bei der Auswertung von medizinischen Aufnahmen zur Diagnose von Krankheiten nehmen sie es mit jeder medizinischen Koryphäe auf. Aktienfonds, die von Algorithmen geführt werden, schlagen regelmäßig die Performance von Fondsmanagern.

Berauscht von diesen Erfolgen schieben Forscher die Grenze des Machbaren immer weiter – hinein in Bereiche, in denen die Entscheidungen ureigene menschliche Aspekte berühren: Warum sollte ein medizinisches System nur die Diagnose verbessern und nicht auch gleich den Operationsplan festlegen? So kann der Algorithmus mit dem Wissen über diagnostizierte Krankheiten, Überlebenswahrscheinlichkeiten der Patienten und den Fachkenntnissen der verfügbaren Mediziner sicherstellen, dass das optimale Ergebnis erzielt wird. Warum nur den Aktienfonds managen, wenn die Software doch auch Unternehmen optimal führen kann? Das mag noch reichlich weit hergeholt erscheinen, aber vor zehn Jahren hättet ihr wohl auch nicht damit gerechnet, dass eines Tages autonome Autos durch Los Angeles fahren.

Algorithmen entscheiden schon bald eigenständig

Softwaresysteme unterstützen nicht mehr nur und liefern die Datenbasis für Entscheidungen oder erarbeiten Handlungsalternativen, aus denen Menschen dann die geeignete Option auswählen. Vielmehr entscheiden sie immer häufiger direkt, ob das Auto an der Kreuzung nach links oder rechts fährt oder ob Aktie A oder B gekauft wird. In Zukunft dann wohl auch, wer operiert und wer entlassen wird oder bleiben darf. Die Basis der Entscheidungen ist oft unklar, denn der Einzelne weiß nicht, welche Abfragen und Gewichtungen die Entwickler in ihre Systeme einbauen und wie die Ergebnisse zustande kommen.

Ihr stimmt uns sicherlich zu, dass beispielsweise auch Banken und Versicherungen nicht nur ihre Allgemeinen Geschäftsbedingungen veröffentlichen, sondern ihren Kunden auch einen Blick auf ihre Algorithmen erlauben müssten. „Algorithmustransparenz“ wird dementsprechend eine neue Anforderung für die Softwareentwickler, denn die Gesellschaft wird genau das von ihnen fordern.

Eine besondere Bedeutung kommt dabei der Entscheidung zu, wie effizient ein System arbeiten soll und wie sich die angestrebte Effizienz erreichen lässt. Bei sozio-technischen Systemen entscheidet der Mensch und der Algorithmus. Entwickler sind sehr versiert darin, ihre Programme auf optimalen Ressourceneinsatz zu trimmen. Wie ihr aber wisst, lassen sich die Abläufe in der realen Welt nur sehr eingeschränkt vorhersagen. Wann immer etwas auf dem Weg zum effizientesten Ergebnis stört, wird es eher der Mensch sein, der dafür die Zeche zahlt. Um euch diese Problematik vor Augen zu führen, möchten wir am Beispiel des Paketboten zeigen, was den ausgeklügelten Zeitplan eines Algorithmus alles aus der Bahn werfen kann.

Paketzusteller sind nicht um ihren Job zu beneiden. Trotz Zeitdruck, Verkehrschaos und unvorhersehbaren Kundensituationen sollen sie einen guten Job machen. Empfänger erwarten hingegen, dass sie ihre Lieferung pünktlich bekommen und dass der Bote eine Möglichkeit findet, ihre Bestellung auszuliefern, auch wenn sie gar nicht zu Hause sind.

Die Paketauslieferung lässt sich als ein sozio-technisches System betrachten. In Versanddiensten übernimmt eine Software die Tourenplanung und gibt dem Fahrer vor, wann er wo zu sein hat, damit er in der gegebenen Zeit möglichst viele Pakete zustellt. Die Algorithmen klammern jedoch die Komplexität der Realität aus, wenn sie eine Tour optimieren. Schließlich bringt jede Baustelle, jeder Stau, jedes Paket, das auf der Terrasse abgelegt werden muss oder jeder Kunde, der zwei Kisten Wein in den vierten Stock geliefert bekommt, die Abläufe aus dem Takt. Leidtragender ist der Auslieferungsfahrer, der entweder durch mehr Arbeit oder weniger Service versucht, das Arbeitspensum zu schaffen. Kurzfristig mag ein solches Verhalten für Unternehmen ökonomisch sinnvoll sein. Langfristig jedoch dürften die Auswirkungen auf die Motivation und Loyalität der Mitarbeiter sowie die abnehmende Kundenzufriedenheit zu schlechteren betriebswirtschaftlichen Kennzahlen führen.

Unvorhersehbare Störungen sind zur Realität geworden

Die Entwickler der Systeme für Tourenplanung müssen daher künftig mehr Demut walten lassen. Sie sollten sich schlicht die Tatsache bewusst machen, dass unvorhersehbare Situationen die Regel sind und es langfristig nicht zielführend ist, diese Komplexität auf den Zusteller abzuwälzen. Würden sie bei der Entwicklung ihrer Systeme die Kundenzufriedenheit und die Anforderungen der Zusteller vor Augen haben, kämen sie zu anderen Lösungen.

Grundsätzlich können die Systeme den Paketboten bei der Bewältigung der Komplexität unterstützen. Denn er muss entscheiden, ob es sich lohnt, einen Stau zu umfahren. Statt vorgegebener Verhaltensweisen sollten die Entwickler dem Zusteller aber Freiräume einräumen, die er dazu nutzen kann, um seinen Service zu verbessern.

Mit zunehmender Erfahrung kennt der Zusteller die Besonderheiten seiner Touren. Mit jedem Mitarbeiter, der das Unternehmen verlässt, geht dieses Wissen jedoch verloren. Eine Schnittstelle zwischen Auslieferungsboten und System könnte hier helfen. Ein Zusteller kann beispielsweise jede Information, die er für relevant hält, über Spracheingabe erfassen. Die Algorithmen sorgen dann dafür, dass diese Informationen allen Kollegen bei Bedarf zur Verfügung stehen.

Automatisierung und Effizienz kommen an ihre Grenzen

Am Beispiel der Paketzustellung lässt sich ein grundlegendes Problem bei der Entwicklung von sozio-technischen Systemen aufzeigen: Bisher werden diese Systeme von IT-Experten entwickelt, die durch die Automations- und Effizienzbrille blicken. Sie haben sich nie mit anderen Themen auseinandersetzen müssen. An der Schnittstelle zwischen System und Realität steht jetzt aber ein Mensch mit all seinen Eigenschaften, Fehlern und Möglichkeiten. Allein mit dem Instrumentarium der IT werden Entwickler hier kaum die richtigen Antworten finden.

IT-Experten sind es gewohnt, Menschen als Objekte in ihren Systemen zu verwalten. Der Paketfahrer hat eine Mitarbeiternummer, ein Stundenkonto und einen Arbeitsvertrag. Dass aber der Paketfahrer Hans Müller weiß, dass Kundin Lisa Meier am Dienstag nie zu erreichen ist, findet sich nirgendwo im System. Ein Designfehler, der zu Problemen führt.

Partizipatorische Entwicklung wird zum neuen Paradigma

Wie ihr erkennen könnt, liegt zwischen den Versprechen der Digitalen Transformation und deren Einlösung noch ein weiter Weg. Informatiker müssen sich hier und jetzt über Systemgrenzen Gedanken machen und sehr genau überlegen, welche Anforderungen ins System gehören und was außen vor bleiben sollte. Sie müssen weg von einer reinen Objektperspektive und stärker berücksichtigen, wie sie den Menschen als handelndes Subjekt unterstützen.

Informatiker müssen sich fragen, welche Normen sie ihren Handlungen zugrunde legen. Die gesamte Gesellschaft muss eine Idee davon entwickeln, wie eine Welt aussehen soll, in der Algorithmen in vielen Fällen die Rollen und Kompetenzen einnehmen, die bisher Menschen vorbehalten waren. Diese Herausforderung geht deutlich über die Informationstechnologie hinaus. Sie betrifft ethische, volkswirtschaftliche, betriebswirtschaftliche, gesellschaftliche, mathematische und informationelle Aspekte. Eine Software sollte all diese Aspekte unter einen Hut bringen.

In der Softwareentwicklung kommen künftig Methoden des partizipatorischen Designs zum Zuge. Bei klassischen Informationssystemen haben diese Ideen jahrzehntelang kaum eine Rolle gespielt - an den Grenzen smarter Systeme können sie jedoch durchaus nützlich sein. Das Engineering smarter Systeme wird zu einer interdisziplinären Aufgabe und führt Interaktionsdesigner, Arbeitsgestalter, Statistiker, Informatiker, Domänenexperten und sogar Trolle zusammen.

Auf unseren Webseiten zur Digitalen Transformation und zum Thema Künstliche Intelligenz findet ihr weitere spannende Themen und Impulse.

Das ist der zweite Teil des Artikels. Der Originalartikel ist im is report, Ausgabe 5/2018 erschienen.