CrowdStrike stellt einen „Not-Aus-Schalter“ vor, mit dem Unternehmen schnell wieder die Kontrolle über Agenten für künstliche Intelligenz übernehmen können sollen. Je autonomer diese Software wird und je häufiger sie in sensible Abläufe eingreift, desto wichtiger wird die Möglichkeit, ihre Aktivität auszusetzen – für Sicherheit, Governance und Verantwortlichkeit.
KI-Agenten beschränken sich nicht darauf, auf eine Anweisung hin Antworten zu erstellen. Je nach System und den erteilten Berechtigungen können sie mehrere Schritte nacheinander ausführen, digitale Dienste anfragen oder Aktionen in der Umgebung eines Unternehmens durchführen. Diese Fähigkeit zum Handeln macht ihre Überwachung besonders wichtig: Ein Fehler, eine falsch interpretierte Anweisung oder eine missbräuchliche Nutzung kann Folgen haben, die über eine bloß falsche Antwort hinausgehen.
Die von CrowdStrike vorgestellte Lösung ist Teil dieser Problematik. Die Idee des „Not-Aus-Schalters“ besteht darin, Verantwortlichen die Möglichkeit zu geben, die Aktivität eines Agenten schnell zu unterbrechen, wenn sein Verhalten riskant erscheint oder nicht mehr den festgelegten Regeln entspricht. Damit sollen vorbeugende Mechanismen durch die Möglichkeit eines sofortigen Eingreifens ergänzt werden, sobald ein Vorfall erkannt oder vermutet wird.
Eine Antwort auf die zunehmende Autonomie von Agenten
Ein KI-Agent kann darauf ausgelegt sein, ein Ziel durch mehrere aufeinanderfolgende Vorgänge zu verfolgen. Diese Autonomie kann wiederkehrende Aufgaben beschleunigen, Prozesse vereinfachen und Teams dabei helfen, eine große Zahl von Anfragen zu bearbeiten. Sie bringt jedoch auch eine zusätzliche Schwierigkeit mit sich: Eine ungeeignete Aktion kann schnell erfolgen, bevor ein menschlicher Bediener Zeit hat, jeden einzelnen Schritt zu prüfen.
Eine Notabschaltung bietet eine praktische Antwort auf die Diskrepanz zwischen der Ausführungsgeschwindigkeit der Systeme und der Zeit, die für ihre Überwachung benötigt wird. Statt sich ausschließlich auf im Voraus festgelegte Regeln zu verlassen, kann ein Unternehmen eine Möglichkeit benötigen, die Aktivität eines Agenten zu blockieren, wenn sich die Umstände ändern. Die Abschaltfunktion soll daher die Zeitspanne verkürzen, in der unerwünschtes Verhalten fortgesetzt werden kann.
Die im bereitgestellten Ausgangstext verfügbaren Informationen erläutern weder die technischen Details der Lösung noch, welche Agenten betroffen sind oder unter welchen genauen Bedingungen sie aktiviert wird. Daher sollte zwischen dem allgemeinen Prinzip – eine automatisierte Aktivität zu unterbrechen, um wieder die Kontrolle zu übernehmen – und den konkreten Merkmalen der Umsetzung unterschieden werden, die hier nicht näher ausgeführt werden.
Warum eine schnelle Abschaltung zu einem Thema der Cybersicherheit wird
Agenten, die mit internen Werkzeugen verbunden sind, können möglicherweise mit Dokumenten, Anwendungen oder Arbeitsabläufen interagieren. Wie weit ihre Zugriffsrechte reichen, hängt von ihrer Konfiguration ab. Je umfangreicher ihre Berechtigungen sind, desto wichtiger wird jedoch die Überwachung ihrer Aktionen. Eine Notabschaltung kann dann eine zusätzliche Schutzbarriere darstellen, wenn eine Anomalie erkannt wird, etwa eine ungewöhnliche Abfolge von Vorgängen oder eine Aktion, die über den vorgesehenen Rahmen hinausgeht.
Ein solcher Mechanismus ersetzt keine herkömmlichen Sicherheitsmaßnahmen. Er ergänzt die Zugriffsverwaltung, Identitätsprüfungen, Aktivitätsprotokollierung, Tests und die Festlegung von Nutzungsgrenzen. Ein Unternehmen muss insbesondere wissen, welche Agenten aktiv sind, auf welche Ressourcen sie zugreifen können und welche Personen im Problemfall eingreifen dürfen. Ohne diese Vorbereitung kann eine Abschaltfunktion zwar vorhanden sein, im Ernstfall aber nicht ausreichend zugänglich oder wirksam sein.
Die Notwendigkeit klarer Eingriffsregeln
Damit der Not-Aus-Schalter nützlich ist, braucht es klare Verfahren. Die Teams müssen wissen, unter welchen Umständen ein Agent ausgesetzt werden soll, wer diese Entscheidung treffen darf und wie sich überprüfen lässt, ob die Abschaltung tatsächlich die gewünschte Wirkung hatte. Auch die anschließenden Schritte müssen festgelegt werden: die Protokolle analysieren, die Folgen bewerten, die Konfiguration korrigieren und entscheiden, ob das System wieder aktiviert werden soll.
Governance beschränkt sich nicht auf eine technische Funktion. Sie setzt voraus, dass die Verantwortlichkeiten zwischen den Cybersicherheitsteams, den operativen Bereichen und den für Compliance zuständigen Personen aufgeteilt werden. Diese Dimension knüpft an die umfassenderen Debatten über Rechte und Schutzmaßnahmen im Zusammenhang mit dem Einsatz von KI in öffentlichen Diensten an, insbesondere an die Themen in diesem Artikel über die Auswirkungen künstlicher Intelligenz auf die Menschenrechte in der Verwaltung.
Agenten kontrollieren, ohne auf ihre Vorteile zu verzichten
Unternehmen setzen KI-Agenten ein, um bestimmte Aufgaben zu automatisieren, den Zugang zu Informationen zu erleichtern oder digitale Abläufe zu koordinieren. Eine systematische Unterbrechung würde diesen Zielen entgegenstehen; vielmehr geht es darum, die Automatisierung kontrollierbar zu machen. Eine Abschaltlösung kann dazu beitragen, indem sie eine Rückfalloption bietet, wenn die Überwachung ein unerwartetes Verhalten feststellt oder Verantwortliche der Ansicht sind, dass ein menschliches Eingreifen erforderlich ist.
Dieses Prinzip betrifft zahlreiche Branchen. Im Handel kann KI beispielsweise die Kundenbeziehungen, das Betriebsmanagement und Verkaufsprozesse verändern. Die Verbreitung solcher Anwendungen wird in dieser Analyse über die Auswirkungen von KI auf die Handelsbranche beschrieben. Je stärker automatisierte Werkzeuge in den Arbeitsalltag integriert werden, desto mehr müssen Unternehmen Mechanismen vorsehen, mit denen sie deren Entscheidungen überwachen und ihre Aktionen bei Bedarf unterbrechen können.
Dieselbe Logik gilt für Dienste, die auf verteilten digitalen Infrastrukturen beruhen. Der Ausbau von Netzwerken, die auf die durch KI entstehende Nachfrage ausgelegt sind, veranschaulicht die Erweiterung dieses Ökosystems, wie dieser Artikel über die Einführung von Krypto-Netzwerken angesichts des wachsenden Bedarfs an künstlicher Intelligenz darlegt. Auch in diesen Umgebungen gewinnen die Kontrolle von Zugriffsrechten und die Möglichkeit, automatisierte Prozesse auszusetzen, an Bedeutung.
Die Grenzen eines einfachen Schalters
Eine Notabschaltung allein garantiert nicht, dass ein Agent keinen Schaden anrichtet. Sie kommt in der Regel zum Einsatz, nachdem ein bedenkliches Signal erkannt wurde. Ihre Wirksamkeit hängt davon ab, wie schnell das Signal erkannt wird, wie weit die Unterbrechung reicht und wie das System konzipiert ist. Wenn ein Agent mehrere Dienste nutzt oder Vorgänge bereits angestoßen wurden, muss das Unternehmen außerdem nachvollziehen, was vor der Abschaltung ausgeführt wurde und welche Korrekturmaßnahmen erforderlich sind.
Die Teams müssen daher die automatisierte Prozesskette als Ganzes untersuchen. Dazu gehören die ursprünglichen Anweisungen, die verfügbaren Werkzeuge, die erteilten Berechtigungen und mögliche Abhängigkeiten von anderen Systemen. Anhand eines vorbereiteten Vorfallszenarios lässt sich prüfen, ob die Aussetzung tatsächlich möglich ist, ob sie nur einen Agenten oder mehrere Komponenten betrifft und ob den Verantwortlichen die nötigen Informationen zur Bewertung der Situation vorliegen.
Auch bei Anwendungen für die Öffentlichkeit ist eine Überwachung erforderlich. KI-Systeme zur Erkennung oder Analyse von Verhaltensweisen, wie etwa der in diesem Artikel über einen Radar zur Erkennung von Fahrern unter Alkoholeinfluss erwähnte intelligente Radar, werfen Fragen zur Zuverlässigkeit, menschlichen Kontrolle und Fehlerbehandlung auf. Diese Themen zeigen, warum Eingriffsmechanismen auf die jeweiligen Risiken der einzelnen Anwendungsbereiche zugeschnitten sein müssen.
Menschliche Aufsicht im Mittelpunkt der Einführung
Die technische Möglichkeit, einen Agenten auszusetzen, muss durch eine angemessene Aufsicht ergänzt werden. Die Bediener müssen Warnmeldungen richtig einordnen, eine tatsächliche Anomalie von normalem Verhalten unterscheiden und schnell genug handeln können. In manchen Zusammenhängen kann es sinnvoll sein, mehrere Reaktionsstufen festzulegen: eine Funktion vorübergehend einschränken, den Zugriff auf eine Ressource sperren oder den Agenten vollständig abschalten.
Die Transparenz automatisierter Aktionen ist ein weiterer entscheidender Faktor. Detaillierte Protokolle können dabei helfen, den Ablauf eines Vorfalls nachzuvollziehen und zu verstehen, warum der Agent eine bestimmte Aktion ausgeführt hat. Diese Nachverfolgbarkeit erleichtert auch interne Prüfungen und die Verbesserung der Kontrollregeln – vorausgesetzt, die gesammelten Informationen sind geschützt und nur für befugte Personen zugänglich.
Schließlich müssen Unternehmen auch die Personen berücksichtigen, die von den Entscheidungen oder Aktionen der Agenten betroffen sein könnten. Es geht nicht nur darum, ob ein Abschaltwerkzeug verfügbar ist, sondern auch darum, Schäden erkennen und beheben sowie Verantwortlichkeiten nachvollziehbar machen zu können. Die Debatten über die Erstellung von Inhalten durch KI, auch wenn dabei die Stimme oder das Bild von Personen verwendet wird, veranschaulichen diese Dimension. Die in diesem Artikel über die Nutzung von Kinderstimmen für künstliche Intelligenz beschriebene Kontroverse erinnert daran, dass technische Entscheidungen auch in einen sozialen und ethischen Rahmen eingebettet sind.
Ein neues Element der KI-Governance
Die von CrowdStrike angekündigte Einführung macht einen Wandel der Sicherheitspraktiken deutlich: KI-Werkzeuge werden nicht mehr nur danach bewertet, ob sie eine Aufgabe erfüllen können, sondern auch danach, wie sich ihre Aktivitäten überwachen und unterbrechen lassen. Ein Abschaltmechanismus kann eine zusätzliche Kontrollmöglichkeit schaffen; seine Wirkung hängt jedoch davon ab, wie er in die Sicherheitsrichtlinien integriert wird und welche Verfahren dafür vorgesehen sind.
Für IT-Verantwortliche setzt die Bewertung einer solchen Lösung voraus, ihren Geltungsbereich, ihre Einsatzbedingungen und ihre Einbindung in bestehende Systeme zu klären. Insbesondere muss festgelegt werden, wie die Abschaltung ausgelöst wird, welche Aktionen unterbrochen werden, welche Protokolle gespeichert werden und wie eine sichere Wiederaufnahme erfolgen kann. Diese Punkte sind entscheidend, damit eine Notfallfunktion nicht nur theoretisch besteht oder ihrerseits eine unkontrollierte Unterbrechung auslöst.
Je autonomer Agenten werden, desto mehr müssen Unternehmen Leistungsfähigkeit mit einer leicht nutzbaren Kontrollmöglichkeit verbinden. Der „Not-Aus-Schalter“ ist eine konkrete Möglichkeit, diese Anforderung umzusetzen: Eine befugte Person oder ein befugtes Team kann wieder die Kontrolle übernehmen, wenn der automatisierte Betrieb nicht mehr als sicher gelten kann.







