Was sollen wir tun? Fragen, die wir im Umgang mit der Möglichkeit künstlicher Intelligenz beantworten müssen.

KI und sense of reality

KI ist heute Alltag: Mindestens 700 Millionen Menschen nutzen führende KI-Systeme jede Woche. Ob diese Systeme wirklich „intelligent“ sind, ist umstritten. Sicher ist: Sie erreichen (Quelle) bereits eine Komplexität, die so groß ist, dass letztlich niemand mehr sagen kann, was das System im Einzelnen tut, wenn es erst eine Zeitlang im Einsatz ist und gelernt hat.

Wenn solche Systeme in ihrer Performance besser werden, als die durchschnittliche Leistung eines Menschen, fangen wir an, diesen Systemen mehr zu vertrauen, als menschlichen Leistungen (Bsp. Autopilot: die neue 737 musste erst mehrfach abstürzen, bevor man gemerkt hat dass die fehlerhafte Software von den Piloten nicht abgeschaltet werden konnte).

Die Frage ist: wie merken wir, wenn die Systeme selbst fehlerhaft werden. Es gibt viele Fehler, die nicht leicht zu bemerken sind und vielleicht auch nicht bemerkt werden sollen. Ein prominentes Beispiel ist die Benachteiligung bestimmter Gruppen durch Systeme zur Gesichtserkennung, zur Kreditvergabe für die Bemessung von Versicherungsprämien und so weiter.

Wenn wir das Nutzungsverhalten von Internetusern betrachten, stellen wir fest, dass diese in einer Art Trance mit dem Medium verbunden sind. Es ist ein assoziatives navigieren zwischen verschiedensten Informationen, bei dem wenig Bewusstheit im Spiel ist. In den nächsten Entwicklungsstufe werden wir zunehmend mit HoloBrillen und augmented reality konfrontiert sein, die die Medien Trance noch deutlich vertiefen wird. Selbst lernende Systeme adaptieren sich an den Nutzer, sodass aus der informationellen Filterblase irgendwann ein geschildertes Bewusstsein wird. Das Eintauchen in diese Trance hat für viele Menschen suchtartigen Charakter (sie können dies leicht feststellen, wenn sie versuchen, einmal 4 Stunden nicht auf Handy zu schauen).

Fragen:

• Wenn wir Maschinen mehr vertrauen, als menschlichen Entscheidungen: wie definieren wir die interrupts für den menschlichen Eingriff?
• Wie muss die Medienkompetenz der Zukunft aussehen, wenn wir von den oben genannten Entwicklungen ausgehen? Was hilft den Nutzern selbstlernender Systeme, einen systemunabhängigen Realitätsanker, einen „sense of reality“ zu behalten?

KI und Wahrheit

KI-Systeme erzeugen heute täuschend echte Bilder, Stimmen und Videos. Mindestens 700 Millionen Menschen nutzen führende KI-Systeme jede Woche. Die EU-KI-Verordnung schreibt deshalb vor, dass KI-Inhalte gekennzeichnet werden. Für Systeme, die schon vor August 2026 auf dem Markt waren, gilt diese Pflicht ab 02.12.2026.

Quellen: International AI Safety Report 2026 · Lewis Silkin, 27.07.2026

KI und Macht

Wenn Macht definiert wird als jede Einflussnahme auf Verhalten, die unabhängig vom Willen des Beeinflussten funktioniert, so verspricht die Nutzung von selbstlernenden Systemen einen Machtgewinn. Mit Hilfe von selbstlernenden Systemen wird bereits heute die Aufmerksamkeit von Internetusern gesteuert. Schon jetzt ist es möglich, deren Beeinflussbarkeit vorherzusagen und eine solche Einflussnahme gezielt vorzunehmen. Und aus spieltheoretischen Überlegungen ist davon auszugehen, dass jede Machtquelle, die verfügbar, ist auch genutzt werden wird. Das fatale ist, dass die Beeinflussung durch selbst lernende Systeme weitgehend unbemerkt erfolgt und in gewisser Weise auch unbemerkbar ist, dass sich diese Systeme ja genau durch Adaption auszeichnen.

Fragen an potentielle Hersteller und Nutzer von selbstlernenden autonomen Systemen:

• Wie sicher sind Sie sich, dass Sie merken, wenn selbst lernende Systeme mit einem Bias behaftet sind?
• Wie lässt sich die Beeinflussung durch selbstlernende Systeme auf gesellschaftlicher und politischer Ebene kontrollieren?
  • Würden Sie sich eine derartige Kontrolle wünschen?

Macht durch KI: wer profitiert

Der IWF warnt: In den meisten Szenarien verstärkt KI die Ungleichheit. Wer Kapital und Daten besitzt, gewinnt. Reiche Länder sind stärker betroffen, können aber auch mehr profitieren.

Auch die Rechenzentren konzentrieren sich: 45 % des Stroms für Rechenzentren fließt in den USA, 25 % in China, 15 % in Europa. Das zeigt, wo die Macht über KI liegt.

Quellen: IWF-Blog, 14.01.2024 · IEA

KI und ethisches Verhalten

Selbstlernende Systeme werden bereits heute in der Finanzwelt, im Versicherungswesen und in vielen anderen Bereichen eingesetzt. Im Investmentbereich werden Kauf- und Verkaufsentscheidungen in Sekundenbruchteilen maschinell erledigt. Wer seinen System Restriktionen irgendwelcher Art auferlegt, hat Nachteile zu befürchten.

Wir wissen aber auch, dass die Entscheidungen dieser Systeme ökonomische, ökologische und persönliche Folgen haben. Nur übernimmt niemand mehr die Verantwortung für diese Folgen, da das System entscheidet. Und es ist kein Mechanismus in Sicht, der Softwarehersteller und deren Kunden nahelegen würde, ihre Systeme mit Restriktionen zu versehen, solange keine Gesetze übertreten werden und die Gesetzesübertretung bemerkbar ist (was angesichts der Komplexität der Themen keine Selbstverständlichkeit ist, vgl. Cum Ex als Beispiel aus der analogen Welt). Beim autonomen Fahren ist man gerade dabei, diese Verantwortungslücke zu klären – aber da kann man auch unmittelbar sehen, wie sich das System verhält.

Und für die Kriegsführung gilt: Überlässt man die Entscheidung zu töten einer Maschine, fallen auch noch die letzten Hemmungen… Dennoch wird, allen Beteuerungen zum Trotz, die Entwicklung solcher Systeme massiv vorangetrieben. Um Kriege zu führen, wird es nicht mehr notwendig sein, viele Soldaten zu haben, der Leben aufs Spiel setzen, sondern ausreichend wirtschaftliche Macht, um Armeen selbstlernender Dronen einsetzen zu können.

Fragen an potentielle Hersteller und Nutzer von selbstlernenden autonomen Systemen :

• Inwieweit sehen Sie auf Ihrer Expertise diese Problematik als relevant an?
• Wären Sie bereit, einem selbst lernenden System Restriktionen einzubauen, wenn Sie wüssten, dass das Fehlen solcher Restriktionen zum Beispiel
  • zu Wettbewerbsverzerrungen führen würde
  • Menschen in Entwicklungsländern erhebliche Nachteile bereiten würde
  • ökologische Schäden nach sich ziehen würde
• Wer trägt die Verantwortung für automatisierte Entscheidungen?
• Wie verhindern wir den Einsatz selbstlernender Systeme in der Kriegsführung?

Übrigens: der nächste Kandidat für ein selbstlernendes System ist m.E. die Triage Software, welche demnächst von den integrierten Rettungsleitstellen eingesetzt werden wird, wo die Operatoren festzustellen haben, ob ein Patient zum niedergelassenen Arzt geschickt, in eine Notfallambulanz verwiesen oder mit dem Rettungsdienst in ein Krankenhaus eingewiesen wird.

Wenn uns die Zukunft einholt, kann es für Ethik zu spät sein

Wir gehen heute davon aus, dass eine echte künstliche Intelligenz noch lange auf sich warten lassen wird. Daher sprechen wir hier auch zunächst von hochautonomen selbstlernenden Systemen. Andererseits müssen wir anerkennen, dass man sich bis zur Etablierung der entsprechenden Systeme weder ein Internet vorstellen konnte, noch Videotelefonie für jedermann, noch eine Gesichtserkennung, die sogar emotionale Zustände analysieren kann.

Es gibt ernstzunehmende Experten, die davor warnen, dass eine künstliche Intelligenz so anders wäre, als alles, was wir uns mit unserem gegenwärtigen menschlichen Bewusstsein vorstellen können, dass diese zu einer ernsthaften Gefahr für die Menschheit werden könnte. Wenn es möglich ist, eine allgemeine künstliche Intelligenz zu erschaffen, dann wird es über kurz oder lang auch realisiert werden. Der Wettlauf dorthin ist im vollen Gange, während die Wettbewerber einander fleißig warnen, welche Gefahren hiermit verbunden sind.

Fragen an potentielle Hersteller und Nutzer von selbstlernenden autonomen Systemen :

• Was müsste getan werden, um sicherzustellen, dass eine künstliche Intelligenz sich nicht in einer Weise verselbstständigt, die uns als Menschheit gefährden könnte?
  • Ist es aus ihrer Sicht überhaupt ein Thema bzw. ein Problem?
• Kann es sein, dass wir mit unserem gegenwärtigen begrenzten menschlichen Vermögen grandios unterschätzen, welche Formen und Ausprägungen von Intelligenz überhaupt möglich sind?
  • Und ist es denkbar, dass sich Intelligenzen entwickeln lassen, die uns so weit überlegen sind, wie wir etwa einem Schimpansen?

Was der internationale KI-Sicherheitsbericht 2026 sagt

Über 100 Fachleute unter Leitung von Yoshua Bengio haben den Stand der KI-Risiken zusammengefasst. KI wird bereits für Cyberangriffe genutzt. Die Fachleute konnten nicht ausschließen, dass neue Modelle Laien beim Bau biologischer Waffen helfen.

Tests vor der Veröffentlichung sagen nicht immer voraus, was ein System in der Praxis kann. Die heutigen Schutzmaßnahmen verhindern Schäden nicht zuverlässig. Auf die Gesamtbeschäftigung fand der Bericht bisher keine Auswirkungen.

Quellen: International AI Safety Report 2026