Der Gebrauch Künstlicher Intelligenz (KI) hat neben vielen Bereichen mittlerweile auch unseren Arbeitsalltag erreicht und ist lange keine Science Fiction Utopie mehr. Im Gegenteil: In immer mehr Branchen ist sie kaum mehr weg zu denken. Sie gilt als eine Bereicherung, um lästige Routinearbeiten abzutreten, kann aber auch für gesellschaftsschädigende Zwecke instrumentalisiert werden. 

Die Schrauben für mehr Sicherheit fester anziehen

Seit Februar diesen Jahres steht im Weißbuch für künstliche Intelligenz der EU, dass bestimmte KI Anwendungen mit hohem Risiko Potenzial besonderen Anforderungen entsprechen müssen. Unter einem “hohen Risiko” verstehen sich hier als erstes Kriterium sensible Anwendungsbereiche wie beispielsweise Justiz, Gesundheit oder Sicherheit. Es muss allerdings auch ein zweites Kriterium erfüllt sein: Die Anwendung selbst muss mit hohem Risiko verbunden sein, wie Lebens-, Verletzungs- oder Diskriminierungsgefahr. Der deutschen Regierung ist diese Regelung jedoch zu unsicher und möchte nicht nur bei Erfüllung beider Kriterien höhere Barrieren für Missbrauchsmöglichkeiten schaffen. Aktuell müssen riskante Anwendungen erst dann Anforderungen für mehr Sicherheit erfüllen, wenn sie auch in einem sensiblen Umfeld agieren. Das ist nach Meinung der Bundesregierung eine zu hohe Schwelle und soll angepasst werden. 

Thomas Ramge beschreibt KI in seinem Buch “postdigital”, erschienen am 7. April 2020, als “Fachidioten”, der wie im Tunnelblick das große Ganze außer Betracht lässt. Ramge zeigt den Zwiespalt zwischen dessen Bereicherung und Bevormundung auf. Zusätzlich skizziert er ein wissenschaftlich fundiertes, optimistischen Zukunftsszenario für 2030: “Ein Zeitalter, in dem intelligente Menschen intelligente Maschinen auf intelligente Weise nutzen, um individuelle Entscheidungen zu verbessern, den Wohlstand für alle zu mehren und die Demokratie zu stärken.” Im Interview mit ihm schauen wir nochmal genauer auf unsere Gegenwart und Zukunft und wollen herausfinden, wie KI unser (Arbeits-)Leben verändert – oder bereits heute schon Einfluss auf unseren Alltag hat. 

Herr Ramge, eine aktuelle Frage gleich zu Beginn: Was wir mit KI alles erreichen könn(t)en und wie wir sie in Krisenzeiten sinnvoll nutzen können, das wird sich in naher Zukunft hoffentlich bestätigen. Das Deutsche Forschungszentrum für Künstliche Intelligenz (DFKI) hält die Corona-Warn-App für ein wichtiges Werkzeug. Was ist Ihre Meinung dazu? Haben Sie die App installiert?

Selbstverständlich habe ich sie installiert und bisher ist alles im grünen Bereich. Tracing-Apps können die klassische Arbeit von Kontaktverfolgung in den Gesundheitsämtern unterstützen, nicht mehr und nicht weniger. Niemand sollte glauben, dass sie eine technische Wunderwaffe der Pandemiebekämpfung sind. Je mehr Menschen sie nutzen, und je weniger vermeintliche Spaßvögel Fehlalarme auslösen, desto hilfreicher sind die Apps.

Wie könnte Künstliche Intelligenz (KI) über Apps hinaus in einer erneuten weltweiten Gesundheitskrise behilflich sein?

Methoden des Maschinellen Lernens kommen bei der Suche nach Wirk- und Impfstoffen natürlich zum Einsatz. Aber der Kampf gegen das Virus wird in der Petrischale geschlagen, nicht in einem Künstlichen Neuronalen Netz.

Was uns neben dem Gesundheitssystem besonders interessiert ist die Arbeitswelt und ihre Veränderungen durch KI: Wie kann KI das Arbeitsleben bereichern?

Idealerweise können uns KI-Anwendungen Routinetätigkeiten abnehmen und damit Zeit und Freiraum für Arbeit mit höherer Wertschöpfung verschaffen. Für Kreatives, oder für Arbeit, bei der menschliche Beziehungen im Mittelpunkt stehen. 

Wie sieht es mit KI im Recruiting aus? Man hört und liest von Chatbots, regelbasierten Softwaretools oder KI die gänzlich Personalprozesse ersetzt. Was davon ist utopische Zukunftsmusik und was davon wird wirklich kommen? 

KI-Systeme sind schon ziemlich gut darin, aus riesigen Bewerbungsstapeln interessante Bewerbungen herauszufiltern. Talente, die aus dem Raster fallen und gerade deshalb interessant wären, werden dabei mit hoher Wahrscheinlichkeit übersehen. Aber das ist ja auch so, wenn Menschen die Stapel durchschauen. Vermutlich wird es Bewerber*innen geben, die eine Expertise entwickeln, in Konversationen mit Chatbots sich clever zu präsentieren. Die höhere Pointe hierbei ist: Dies signalisiert eine soziale und eine technische Kompetenz und das kann dann ja auch eine Fähigkeit sein, die später dem Arbeitgeber nützt. 

Sie schreiben in Ihrem Buch, dass Pessimisten befürchten, die Digitalisierung könne zu einer Massenarbeitslosigkeit führen. Optimisten seien der Ansicht, dass die Digitalisierung mehr Jobs schafft, als es abschafft. Welche Berufsfelder lassen sich nicht automatisieren und sind somit in beiden Szenarien rüttelfest?

Zunächst: Die Automatisierung repetitiver Tätigkeiten wie Buchhaltung oder Fallbearbeitung in Versicherungen kommt deutlich langsamer voran, als von den Anbietern der Systeme erhofft und versprochen. Klempner*innen, Landschaftsgärtner*innen, Pflegepersonal und Standup-Comedians dürften langfristig auf der sicheren Seite bleiben. Maschinen sind weder geschickt, noch kreativ, empathisch oder witzig.   

Sie beschreiben außerdem ein drittes Szenario in dem weder die Befürchtung der Pessimist*innen, noch die Vorhersage der Optimisten zutrifft. Sie dreht sich generell nicht um Arbeitslosigkeit, sondern um die Spaltung des Arbeitsmarktes in “lovely und lousy Jobs”. Wie genau ist das gemeint?

Die technologisch Gebildeten nutzen die digitalen Systeme souverän und bekommen in ihren digital hochgerüsteten Wissensberufen gute Gehälter. Die anderen fahren die Pakete aus, die die technologisch Gebildeten bei Amazon in ihre Altbauwohnungen in den hochpreisigen Trendvierteln bestellen.  

Ist es für ein Unternehmen wie Google einfach ein Monopol im Bereich KI zu bilden oder hat es das vielleicht schon?

Es ist nie leicht, Monopole zu bauen, außer für den Staat. Google hat bei der Suche in der Tat ein Quasi Monopol erreicht und einige Unternehmen der Alphabet-Gruppe sind bei Anwendungen der KI führend, zum Beispiel mit Waymo beim autonomen Fahren. Es wird aber sicher kein universelles KI-Monopol geben, sondern starke Marktkonzentration und Quasi Monopole bei einzelnen Anwendungen.  

Thema Entscheidungshilfe: Sie sprechen von der Möglichkeit mit selbst gesteckten Zielen oder Präferenzen informiertere Entscheidungen treffen zu können mithilfe von KI. Könnte KI helfen aus der eigenen “Meinungs- bzw. Wissens-Blase” herauszutreten und auch andere Aspekte in der Entscheidungsfindung zu berücksichtigen?

Klar, KI-Systeme können uns auf kognitive Beschränkungen hinweisen nach dem Motto: Du hast einen Sunk-Cost-Bias. Rechnerisch ist viel besser, sich jetzt von dieser Aktie zu trennen und sie nicht zu halten, weil du mal viel dafür bezahlt hast. Und KIs könnten uns auch darauf aufmerksam machen, dass in unserer Filterblase auf Twitter eine bestimmte Meinung dominiert. So sind die Systeme aber in der Regel nicht programmiert, sondern eher als Bestätigungsmaschinen von Verhalten, das wir in der Vergangenheit gezeigt haben.  

Können ethische und moralische Entscheidungen mithilfe von KI getroffen werden, die vorher nur von Menschen getroffen wurden?

Sie können uns zumindest an unsere ethischen Prinzipien erinnern, bevor wir eine Entscheidung treffen. Ein digitaler Assistent könnte uns zeigen, wenn wir schon wieder mehr Fleisch einkaufen, als wir uns vorgenommen haben. Die Entscheidung, vegan zu leben, kann die KI uns aber nicht abnehmen. 

In Ihrem Buch schreiben Sie außerdem: “Wir werden als intelligente Menschen intelligente Maschinen intelligent nutzen” Wie ist das genau gemeint?

Intelligenz ist die Fähigkeit des Menschen, herauszufinden was zu tun ist, wenn wir nicht wissen, was zu tun ist. Computer, digitale System und KI-Assistenten können uns bei der Suche nach der besseren Lösung unterstützen. Das Denken werden sie uns nicht abnehmen.  

 


Thomas Ramge ist Bestsellerautor und Research Fellow am Weizenbaum Institut in Berlin. In seinem neuen Buch “postdigital” geht er sowohl den Sonnen- als auch den Schattenseiten von Künstlicher Intelligenz nach und entwirft im Gegenzug ein wissenschaftlich fundiertes, optimistisches Szenario für das Jahr 2030: Ein postdigitales Zeitalter, in dem intelligente Menschen intelligente Maschinen auf intelligente Weise nutzen, um individuelle Entscheidungen zu verbessern, den Wohlstand für alle zu mehren und die Demokratie zu stärken.