Bild: Konektus Photo / Shutterstock.com
Es ist genau die Art Geschichte, die viele Unternehmen gerade nervös machen dürfte. Eine KI-Plattform, gebaut für mehr Effizienz, mehr Wissenstransfer und schnellere Abläufe, wird selbst zur Schwachstelle. Wie das Portal Golem breichtet, soll genau das bei McKinseys interner Plattform „Lilli“ passiert sein. Sicherheitsforscher von Codewall setzten nach eigenen Angaben einen autonomen KI-Agenten auf das System an – und der soll sich innerhalb von nur zwei Stunden weitreichenden Zugriff verschafft haben.
Nicht mit gestohlenen Passwörtern. Nicht mit einem Insider. Sondern offenbar nur mit einem Domainnamen, öffentlich sichtbaren Schnittstellen und einem System, das an entscheidender Stelle nicht sauber abgesichert war.
Der Einstieg war wohl einfacher als gedacht
Lilli ist bei McKinsey kein kleines Nebenprojekt. Die Plattform wird intern genutzt, um Dokumente zu durchsuchen, Wissen aus dem Unternehmen zugänglich zu machen und Informationen schneller zusammenzuführen. Gerade deshalb ist der Fall so heikel. Denn wo viele Inhalte an einem Ort gebündelt werden, wird auch der mögliche Schaden schnell groß.
Laut den Forschern fand der KI-Agent zahlreiche öffentlich dokumentierte API-Zugänge. Manche davon sollen ohne ausreichende Absicherung erreichbar gewesen sein. Über einen dieser Wege sei es gelungen, Befehle in die Datenbank einzuschleusen. Ab da war der Weg offenbar offen.
Die Forscher formulierten das selbst ziemlich pointiert: „Also beschlossen wir, unseren autonomen Offensivagenten darauf anzusetzen. Keine Anmeldedaten. Keine Insiderkenntnisse. Und kein menschliches Eingreifen. Nur ein Domainname und ein Traum“.
Plötzlich stand mehr offen, als offenstehen sollte
Nach Darstellung von Codewall blieb es nicht bei einem kleinen Testzugriff. Der Agent soll am Ende Millionen Chatnachrichten, Hunderttausende Dateien und zehntausende Nutzerkonten erreicht haben. Außerdem habe er in das Verhalten des Systems eingreifen können.
Ob diese Daten wirklich im großen Stil eingesehen oder ausgewertet wurden, ist die entscheidende Frage. McKinsey betont, es gebe keine Hinweise darauf, dass Klientendaten oder vertrauliche Informationen von Unbefugten eingesehen wurden. Das Unternehmen erklärte außerdem, die Schwachstelle sei nach dem Hinweis sehr schnell geschlossen worden.
Trotzdem bleibt ein unangenehmes Gefühl. Denn wenn ein externer Test so tief in ein System kommt, dann zeigt das nicht nur ein technisches Problem. Es zeigt, wie verwundbar zentrale KI-Plattformen werden können, wenn Tempo wichtiger war als saubere Absicherung.
Der eigentliche Warnschuss geht an fast alle Unternehmen
Der Fall ist mehr als ein peinlicher Moment für McKinsey. Er ist ein Vorgeschmack auf das, was vielen Firmen noch bevorstehen könnte. KI-Agenten werden nicht nur nützlicher, sondern auch gefährlicher. Sie können Schwachstellen suchen, testen und ausnutzen – schnell, ausdauernd und ohne viel Anleitung.
Genau deshalb ist die eigentliche Lehre ziemlich klar: Wer KI in sein Unternehmen holt, holt nicht nur Produktivität ins Haus, sondern auch neue Risiken. Viele reden gerade begeistert über Chancen. Über die Angriffsfläche reden noch immer zu wenige. Und genau das könnte sich rächen.
Quelle: golem.de
