Wer sich blind aufs Navi verlässt ist selber schuld!

Oliver Marquardt aus Marburg, der sich selbst als „Marketingphilosoph“ (guter Titel!) bezeichnet, hat auf Facebook einen Link zu Deutschlandradio Kultur gepostet mit einem Interview mit Yvonne Hofstetter, Geschäftsführerin der Teramark Technologies GmbH und Autorin von „ Sie wissen alles“, ein lesenswertes Buch mit dem provokanten Untertitel „Wie intelligente Maschinen in unser Leben eindringen und warum wir für unsere Freiheit kämpfen müssen“. Die studierte Juristin ist keine Maschinenstürmerin, aber sie stellt kluge Fragen darüber, wie Menschen und Maschinen miteinander friedlich koexistieren und welche Gefahren aus einer übergroßen Abhängigkeit von Algorithmen entstehen können.

Oliver wollte wissen, was ich davon halte, und ich habe mich spontan hingesetzt und diesen Text als Erwiderung geschrieben:

Dass selbstlernende Maschinen nur noch algorithmisch gesteuert nach der Weltherrschaft greifen, halte ich für übertrieben. Wahr ist aber, dass die Rechenleistung von Computern demnächst der des Menschen soweit überlegen sein wird, dass wir nicht mehr in der Lage sein werden, überhaupt nachzuvollziehen, wie Maschinen zu ihren Entscheidungen kommen. Angesichts dieser übermenschlichen Leistung werden wir Menschen über kurz oder lang aufgeben und unseren Systemen die Entscheidungsgewalt überlassen.

Noch behauptet IBM, dass Watson lediglich ein, allerdings sehr, sehr kluger, persönlicher Assistent sein wird, der dem Krebsarzt oder dem Börsenmakler mehrere Alternativvorschläge macht, die letzte Entscheidung aber vom Menschen gefällt wird. Die Gefahr ist, dass wir irgendwann so überfordert sind, dass wir das System umschalten auf den Modus: „entscheide du“.

Wenn wir das tun, dann sind wir natürlich selber schuld, wenn die Maschinen tatsächlich alle wichtigen Entscheidungen treffen. Und wir sind hilflos, wenn ein Hacker beispielsweise ein lebenswichtiges Kernsystem knackt und anfängt, die Entscheidungen des Computers zu manipulieren. Da wir nicht mehr überblicken können, warum eine Maschine so oder so entscheidet, können wir auch nicht erkennen, ob die Entscheidungen wirklich in unserem Sinn getroffen werden.

Das bedeutet aber nicht, dass wir die Maschinen abstellen und wieder alles selber machen sollen. Viele Menschen – ich eingeschlossen – würden ohne ihren Navi nicht mehr nach Hause finden. Aber mein Navi spinnt manchmal. Neulich wollte er aus völlig unerfindlichen Gründen, dass wir auf dem Weg von Karlsruhe nach Stuttgart plötzlich runter- und auf der Landstraße weiterfahren. Ich habe kurz ins Internet geschaut (meine Frau ist gefahren!) und habe keinen Stau auf der Strecke gefunden, also sind wir weitergefahren.

Wir müssen wachsam sein unseren Maschinen gegenüber und deren Entscheidungen immer kritisch hinterfragen. Vielleicht brauchen wir Maschinen, die unsere Maschinen überwachen und deren einziger Sinn darin besteht, unsere Interessen gegenüber anderen Maschinen zu vertreten.

Vielleicht sollten wir abr auch gelegentlich alte Fähigkeiten wieder üben, damit wir sie nicht komplett verlieren, indem wir zum Beispiel auch mal das Navi ausschalten.

Auf jeden Fall muss uns die Gefahr bewusst sein, in die wir uns begeben, wenn wir lebenskritische Entscheidungen ganz den Maschinen überlassen. Wir dürfen das Steuer nicht ganz aus der Hand geben, auch nicht in einem selbstfahrenden Auto!