Seite wählen

KI-Agenten als Angreifer: Webanwendungen und Schnittstellen härten

Kurzantwort · Stand 19. November 2026

Mit Plattformen wie ARTEX suchen KI-Agenten Webanwendungen und Schnittstellen selbstständig ab, probieren Angriffe in vielen Varianten und verketten ihre Funde. FBI und CERT-EU berichten, dass Angreifer das seit August 2026 tun. Für Entwicklung und Betrieb heißt das: Jeder erreichbare Endpunkt wird gefunden, jede geschwätzige Fehlermeldung wird ausgewertet, jede veraltete Bibliothek wird ausprobiert. Gegenhalten lässt sich mit acht Stellschrauben, von der Rechteprüfung je Datensatz über automatische Updates der Abhängigkeiten bis zur Firewall vor der Anwendung. Wer eigene KI-Dienste betreibt, muss auch diese absichern.

Hält Ihre Anwendung einem KI-Agenten stand?

  • Prüfung Ihrer Webanwendung, App-Schnittstellen und KI-Dienste aus Sicht eines Angreifers
  • Automatische Updates und Sicherheitsprüfungen in Ihrer Build-Pipeline
  • Absicherung lokal betriebener KI-Modelle, Agenten und Automatisierungen

Telefon 0351 79 59 35 13 oder über unsere Anfrage.

Wie ein KI-Agent eine Anwendung absucht

ARTEX ist ein Open-Source-Projekt für Sicherheitstests. Die Dokumentation beschreibt den Ablauf: Ein Planer-Agent zerlegt das Ziel in Aufträge, Arbeiter-Agenten führen sie mit echten Werkzeugen aus. Was sie finden, landet in einem gemeinsamen Verzeichnis aus Domains, Subdomains, Diensten, Anwendungen und Endpunkten. Darauf baut der nächste Schritt auf.

Für Entwickler ist ein Detail besonders wichtig. Die Agenten teilen sich auch Beobachtungen, die noch kein Befund sind: eine Fehlermeldung, einen Ausschnitt aus einer Antwort, einen versteckten Parameter. Was ein menschlicher Tester vielleicht übersieht oder vergisst, bleibt hier erhalten und wird später wiederverwendet. Kleine Nachlässigkeiten summieren sich so zu einem Angriffsweg.

Nach Angaben des FBI vergingen in einzelnen Fällen weniger als drei Stunden von der Auswahl des Ziels bis zum Zugriff mit erweiterten Rechten. Die Folgen für Patch-Fristen und Netzwerkschutz beschreibt unsere Schwesterseite im Beitrag ARTEX: Wie KI-Agenten angreifen, was aus dem Internet erreichbar ist.

Acht Stellschrauben für Webanwendungen und Schnittstellen

  1. Endpunkte kennen. Führen Sie eine vollständige Liste aller Routen und Schnittstellen, am besten aus der Schnittstellenbeschreibung erzeugt. Alte Versionen, Testrouten und Verwaltungsoberflächen werden abgeschaltet oder nur intern erreichbar gemacht.
  2. Rechte je Datensatz prüfen. Der häufigste Fehler in Schnittstellen: Ein angemeldeter Nutzer ändert eine Kennung in der Anfrage und erhält fremde Daten. Die Prüfung, ob dieser Nutzer diesen Datensatz sehen darf, gehört auf den Server und in jede einzelne Abfrage.
  3. Eingaben gegen ein Schema prüfen. Jede Anfrage wird auf Typ, Länge und erlaubte Felder geprüft. Datenbankabfragen laufen ausschließlich über Parameter, nie über zusammengesetzte Zeichenketten.
  4. Anfragen begrenzen. Ratenbegrenzung je Konto und je Adresse, Sperren nach Fehlversuchen und Grenzen für teure Abfragen bremsen einen Agenten, der Varianten durchprobiert.
  5. Abhängigkeiten automatisch aktualisieren. Ein Dienst im Repository öffnet für jede neue Version einer Bibliothek selbst einen Änderungsvorschlag. Laufen die Tests durch, werden Sicherheitsupdates ohne Wartezeit übernommen.
  6. Geheimnisse aus Code und Oberfläche heraushalten. Schlüssel und Zugangsdaten gehören in einen Tresor, nicht ins Repository und nicht in den ausgelieferten Code der Oberfläche. Eine Prüfung in der Pipeline schlägt an, wenn doch einer hineingerät.
  7. Fehlermeldungen knapp halten, Protokolle ausführlich. Nach außen geht eine neutrale Meldung mit einer Kennung, intern wird der Vorgang vollständig protokolliert. Fehlerausgaben mit Pfaden, Versionsnummern oder Datenbankdetails helfen nur dem Angreifer.
  8. Eine Schutzschicht davor. Eine Web Application Firewall oder ein API-Gateway lässt nur zulässige Aufrufe durch und fängt bekannte Angriffsmuster ab. Das ersetzt keinen der sieben Punkte davor, verschafft aber Zeit, wenn eine Lücke bekannt wird.

Eigene KI-Dienste sind ebenfalls Angriffsfläche

Wer KI im eigenen Haus betreibt, stellt neue Dienste ins Netz. Mehrere davon bringen von Haus aus keine Anmeldung mit oder vertrauen jedem, der sie erreicht:

  • Modellserver: Lokale Laufzeitumgebungen für Sprachmodelle sind für den Betrieb auf dem eigenen Rechner gedacht. Wird ihr Port ins Internet durchgereicht, kann jeder das Modell nutzen, Modelle laden oder löschen. Sie gehören hinter einen Proxy mit Anmeldung und nie direkt ins Internet.
  • Vektordatenbanken und Wissensspeicher: Sie enthalten die Dokumente, mit denen ein Assistent arbeitet, oft Verträge, Angebote und Kundendaten. Der Zugriff braucht eigene Zugangsdaten und Netzgrenzen.
  • Automatisierungen: Eingangsadressen von Workflows lösen Aktionen aus, sobald jemand sie aufruft. Ohne geheimen Schlüssel oder Signaturprüfung kann das jeder, der die Adresse errät oder findet.
  • Agenten mit Werkzeugen: Ein Agent, der E-Mails liest und Aktionen ausführt, lässt sich über eingeschleuste Anweisungen in Texten fehlleiten. Er bekommt nur die Rechte, die er braucht, und kritische Aktionen brauchen eine Freigabe.

Wie wir solche Systeme gezielt angreifen, um Schwächen vor dem Betrieb zu finden, steht auf der Seite KI Red Teaming und Sicherheit.

Patchen in die Pipeline einbauen

Schnelles Patchen gelingt nur, wenn es kein Sonderfall ist. In einer gut gebauten Pipeline läuft es so ab:

  • Jede Änderung durchläuft automatische Tests und eine Prüfung der Abhängigkeiten auf bekannte Lücken.
  • Container-Abbilder werden regelmäßig neu gebaut, damit Updates des Basissystems ankommen, auch wenn sich am eigenen Code nichts ändert.
  • Sicherheitsupdates gehen nach bestandenen Tests zuerst auf eine Vorstufe und von dort ohne Wartetermin in den Betrieb.
  • Für den Notfall gibt es einen geübten Weg zurück auf die vorige Version.

Das Vorgehen dahinter beschreibt unsere Seite DevSecOps. Wer eine Anwendung ohne eigene Entwicklungsabteilung betreibt, sollte mit dem Dienstleister schriftlich klären, wer Updates einspielt und in welcher Frist.

Prüfliste für Ihre Anwendung

  • Gibt es eine aktuelle Liste aller erreichbaren Routen und Schnittstellen?
  • Prüft der Server bei jedem Abruf, ob der Nutzer diesen Datensatz sehen darf?
  • Sind Testumgebungen und Verwaltungsoberflächen von außen unerreichbar?
  • Kommen Sicherheitsupdates der Bibliotheken automatisch an?
  • Liegen Schlüssel und Zugangsdaten außerhalb des Repositorys?
  • Verraten Fehlermeldungen keine Interna?
  • Stehen Modellserver, Wissensspeicher und Automatisierungen hinter einer Anmeldung?
  • Wann wurde die Anwendung zuletzt von außen getestet?

Häufige Fragen

Reicht eine Web Application Firewall vor der Anwendung?

Nein. Sie fängt bekannte Angriffsmuster ab und bremst automatisiertes Durchprobieren. Fehler in der Rechteprüfung und in der Anwendungslogik erkennt sie kaum. Diese müssen im Code behoben werden.

Sind kleine Anwendungen überhaupt interessant für Angreifer?

Automatisierte Werkzeuge suchen nicht nach lohnenden Namen, sie suchen nach verwundbaren Systemen. Ein kleines Kundenportal mit einer veralteten Bibliothek wird genauso gefunden wie ein großes.

Können wir automatische Updates riskieren?

Mit Tests und einer Vorstufe ja. Das Risiko eines fehlerhaften Updates lässt sich durch gestuftes Ausrollen und einen Weg zurück begrenzen. Das Risiko einer bekannten, offenen Lücke wächst mit jedem Tag.

Dürfen wir unsere Anwendung selbst mit KI-Werkzeugen testen?

Ja, an eigenen Systemen und mit klar festgelegtem Umfang. Bei gemieteter Infrastruktur gelten die Bedingungen des Anbieters für Sicherheitstests.

Zum selben Thema aus Sicht des Datenschutzes: was Art. 32 DSGVO beim Patchen verlangt.

Sie möchten wissen, wie Ihre Anwendung, Ihre Schnittstellen oder Ihre KI-Dienste aus Sicht eines Angreifers aussehen? Wir prüfen Code und Betrieb, bauen automatische Updates und Sicherheitsprüfungen in Ihre Pipeline ein und sichern lokal betriebene KI ab. In der KI-Beratung klären wir vorab, welche Dienste überhaupt erreichbar sein müssen. Telefon 0351 79 59 35 13 oder über unsere Anfrage.

Quellen: ARTEX, Projektseite und Dokumentation auf GitHub · FBI, FLASH-20261113-001 · CERT-EU, Hinweis zu ARTEX · OWASP API Security Top 10 (2023)

KI-Lösungen für Ihr Unternehmen

Die DATUREX GmbH entwickelt individuelle KI-Lösungen — von der Strategie bis zur Implementierung. DSGVO-konform, lokal und sicher.

Kostenlose KI-Beratung anfragen

Vertrag widerrufen

📞 0351 / 79 59 35 13 Projekt besprechen