Boesebeck.biz - Blog

Die KI-Panik — haben wir das nicht schon mal gesehen?

Artikel anhoeren

Die KI-Panik: haben wir das nicht schon mal gesehen?

Wer in dieser Woche Nachrichten über KI liest, denkt, der Weltuntergang steht kurz bevor. Eine KI übernimmt das gesamte Internet. Hacker plündern mit ein paar Prompts die halbe Welt. "KI legt das halbe Internet lahm." "Über 1200 KI-Agenten ausgebrochen."

Ich hab mir die Meldungen einzeln angeguckt. Und was soll ich sagen: Dieses Gefühl kenne ich. Mehrfach. Technik-Hype mit Skepsis beobachten ist mein Job, seit fast 30 Jahren.

Der Blick zurück lohnt sich

Die Angst davor ist alt. Schon Sokrates befürchtete, die Schrift schwäche das Gedächtnis. In Platons Phaedrus heißt es, die Schrift pflanze den Lernenden Vergessenheit ein, weil sie ihr Gedächtnis nicht mehr üben (Phaedrus 275a). Bei der Druckerpresse gibt es kein berühmtes Zitat aus der Zeit, das wäre gelogen. Aber Medienwissenschaftler wie Walter Ong und Marshall McLuhan beschreiben diesen Übergang so: Print verlagerte Kommunikation vom persönlichen Austausch zum einsamen, stillen Lesen. Das ist eine These, keine Zeitzeugenaussage. Bei der Eisenbahn war der Railway Spine eine echte, im 19. Jahrhundert ernst genommene Diagnose für Nervenleiden nach Zugunfällen (Chirurg John Erichsen, 1866). Sie geriet später in Verruf, weil manche sie für Versicherungsbetrug ausnutzten. Die oft zitierten Horrormeldungen, etwa „ab 30 km/h ersticken die Passagiere“, stammen meist aus zweiter Hand und sind teils nachweislich falsch zugeordnet. Beim Fernsehen hieß es früh die Idiotenbox, ein echter Spitzname fürs Fernsehen, US-Slang seit Mitte der 1950er. Beim Internet dann das Ende der Aufmerksamkeit. Das Muster bleibt, auch wenn die Details mal stimmen und mal nicht.

Keine dieser Katastrophen ist eingetreten. Das Muster läuft trotzdem seit Jahrhunderten gleich. Ein reales Ereignis. Medien verstärken. "Experten" warnen. Dann die Forderung nach Regulierung. Diese Woche lief das Programm perfekt ab.

Der eine echte Vorfall

Der eine harte Vorfall ist echt. Der Binance-Hack (DIE WELT, Handelsblatt, NZZ). Rund 6,3 Milliarden Dollar erbeutet. Der größte Krypto-Raub der Geschichte. Das FBI macht Nordkoreas Gruppe "Trader Traitor" dafür verantwortlich.

Jetzt wird es interessant. Der Angriff begann mit dem gekaperten Laptop eines Entwicklers. Social Engineering, versagende Zugriffskontrollen. Ein klassisches, zutiefst menschliches Problem. Und wo steckt die KI in dieser Geschichte? Nur in der Einordnung der Redaktionen. "Im Zeitalter der KI könnten solche Angriffe noch destruktiver werden." Konjunktiv. Framing. Kein Befund.

Die PHP-Lücke ist auch nicht besser

Die große PHP-Lücke hat CVSS 9.2, also "kritisch". Klingt furchteinflößend. In der Praxis sieht es anders aus. Einen funktionierenden Exploit gibt es schon, im Labor haben Forscher damit unangemeldet Code auf Drupal- und WordPress-Servern ausgeführt. Aber einfach ist das nicht. Die Angriffe brauchen mitunter mehrere Tausend Anfragen, oft geht keiner durch. Und eine erfolgreiche Massenausnutzung in der freien Wildbahn gibt es bislang nicht. Die Behauptung, KI habe das halbe Internet lahmlegen können? Nicht belegt.

Gefunden wurden die Lücken übrigens mit KI-Hilfe. Zwei Teams sind darüber gestolpert. Einmal das Team von Calif zusammen mit dem PHP Security Team, gesponsert von OpenAI. Und Wiz Research, das mit einer Mischung aus Gemini- und GPT-Modellen die erste Lücke im August fand. KI hat also auf der defensiven Seite gestanden. Sie hat eine jahrzehntealte Lücke im Fundament von rund 70 Prozent des Webs gefunden und beim Beheben geholfen.

Danach ließen LLM-Werkzeuge das Sondieren von Servern explodieren. Millionen Anfragen, fast alle ins Leere. Das ist real. Aber es ist nicht der Terminator.

Was wirklich dran ist

Hier kommt der Teil, den keiner in die Schlagzeile schreibt. Die realen Risiken heißen nicht "Superintelligenz übernimmt die Welt". Sie heißen:

  • KI macht bekannte Angriffsmuster besser. Glaubwürdigeres Spear-Phishing, schnellere Schwachstellensuche, massenhaftes Server-Sondieren.
  • Computersicherheits-Hygiene. Die Löcher, durch die KI-Agenten zuletzt kamen, waren laut CERT-In "klassisch". Offen herumliegende Zugangsdaten, Software ohne Updates. Dasselbe wie beim Binance-Hack.
  • KI-generierte Software. Die wird schnell ausgerollt, und die Prüfung hält nicht mit. Selbst der nüchternste Experte, den ich kenne, Eric Bodden, sagt: "Wir wissen es nicht. Aber der Schaden wäre enorm."

Dazu passt eine der besseren Analysen der Woche. Der Tech-Kanal The Morpheus hat den Anthropic-Stresstest 802 mal auf seiner eigenen Grafikkarte laufen lassen. Sein Fazit: "Statt Panik und alles in einen Topf werfen und der Terminator ist übermorgen da, ist wie üblich wieder an allen Seiten ein bisschen was dran. KI ist durchaus in der Lage zu hacken. Aber Gefahren durch KI heißen nicht automatisch bewusste Terminator-Roboter." Kann ich nur unterschreiben.

Warum die Panik trotzdem läuft

Weil sie sich verkauft. Wer das Ende beschwört, hat oft ein Buch, einen Börsengang oder einen Thinktank zu füllen. Angst ist ein gutes Marketingmittel. Das war bei jeder Technologie so. Sorgfalt ist das ehrliche Gegenteil. Und Sorgfalt schafft es nie in die Schlagzeile.

Zwei Ansätze, ein Unterschied

Zur Einordnung noch eine Begebenheit aus meinem Umfeld. Ein Freund arbeitet an der Uni an KI und hat einen Doktortitel. Er ist extrem vorsichtig, wenn es um KI-Agenten geht. Keinen einzigen lässt er außerhalb einer Sandbox laufen. Alles immer im Container. Ich bin da offener. Ich lass das Ding arbeiten und kontrolliere, was es tut, hauptsächlich manuell.

Beide Ansätze sind vertretbar. Das finde ich wichtig zu sagen. Aber einer von beiden ist von Angst getrieben. Und ich glaube, wir wissen beide, welcher.

Was also tun?

Genau da liegt das eigentliche Problem. Die Panik lenkt von den echten Gefahren ab. Und die echten Gefahren sind die langweiligen. Besseres Spear-Phishing. Gekaperte Zugangsdaten. Software ohne Updates. Die Dinge, die wir seit zwanzig Jahren nicht konsequent genug machen.

Angst war noch nie ein guter Ratgeber. Schon gar nicht in der Technologie. Wer in Panik gerät, handelt entweder zu schnell oder gar nicht. Beides hilft der Verteidigung nicht.

Mein Vorschlag, falls du was mitnehmen willst: Leg die Energie nicht in die Endzeit-Frage. Leg sie in die Basics. Mehrstufen-Authentifizierung. Patches. Keine offenen Zugangsdaten. Wenn ein KI-Agent reinkommt, dann nicht durch eine außer Kontrolle geratene Super-KI. Sondern durch dasselbe Loch wie immer. Ein offenes Passwort.

Und KI ist nicht nur das Problem. Die Lücken, von denen ich oben geschrieben habe, haben LLMs mitfinden helfen. Und wenn eine KI mir eine ziemlich überzeugende Spear-Phishing-Mail hinschreibt, kann mir eine KI vermutlich auch dabei helfen, so eine zu erkennen. Gleiches Werkzeug, andere Seite.

Und es gibt schon nüchterne Ansätze für genau das. Der TÜV-Verband und das TÜV AI.Lab haben ein Konzept vorgelegt, um Frontier-KI zu prüfen, damit Deutschland und Europa solche Systeme eigenständig bewerten können (news aktuell). Prüfen statt Angst. Das ist die Alternative zur Panik.

Fear sells. Care protects.

Quellen

Die Presse-Artikel stammen aus einer GENIOS-Recherche. Links führen zu genios.de.