Alchemie in der Black Box? – #fokus

Alles nur Zufall?!

Das werfen einige Wissenschaftler neuerdings der KI vor. Für den Laien klingt das zunächst einmal paradox. Programmierte Alghorithmen, Rechenvorgänge und automatisierte Prozesse - all das hört sich doch nach faktenbasierten Abläufen an. Willkür ausgeschlossen - zumindest bei der Maschine.

Dagegen sprach sich nun einer der führenden KI-Forscher von Google, Ali Rahimi, aus. Er bezeichnete das Feld der KI als "Alchemie": Im Mittelalter war so mancher Magier von der Idee besessen, Gold herstellen zu können – wenn man nur lange genug verschiedene Substanzen miteinander vermischte. Ein Unterfangen, das bis heute nicht geklappt hat.

Rahimis Vergleich zog in der Forscherwelt Empörungsstürme nach sich, aber er fand auch etliche Unterstützer. Von einer "Black Box" war ebenfalls die Rede: Man könne allerlei Daten und Codes in die KI hineingeben - die Ergebnisse seien letztendlich aber nicht vorhersagbar und basierten auf Wahrscheinlichkeiten und pragmatischen Prognosen. Künstliche Intelligenz nicht mehr als Fake News?

Das IT-Magazin Heise widmet der Frage einen eigenen Beitrag unter dem Titel "Die Geister, die wir rufen: Künstliche-Intelligenz-Algorithmen als neue Alchemie" und kommt zu dem Schluss:

"Der Alchemie-Vorwurf sollte aber auch mit Blick auf praktische Anwendungen aufhorchen lassen. KI-Systeme werden immer verbreiteter. Ob es um die Abschätzung der Kreditwürdigkeit oder der Gefährlichkeit einer Person geht oder ob demnächst autonome Fahr- und Flugzeuge unsere Verkehrswege bevölkern - bei Irrtümern und Unfällen wird die Fehleranalyse schwierig, wenn Fachleute schließlich einräumen müssen: "Wir machen es schlicht so, weil es gut funktioniert."

Bild: Neuronale Netze, SheilaUACAM [CC BY-SA 4.0 (https://creativecommons.org/licenses/by-sa/4.0)]