Die Gefahr der autonomen Agenten
Moderne Copilot-PCs nutzen KI-Agenten, um komplexe Aufgaben wie E-Mail-Sortierung oder Kalenderverwaltung autonom zu erledigen. Der Sicherheitsforscher Gary Gnilka und das Team von HiddenLayer haben vor einer neuen Schadsoftware-Klasse gewarnt, die speziell auf diese Systeme zielt.
Diese digitalen Würmer nutzen sogenannte Prompt-Injection-Angriffe, um die Sicherheitsbarrieren der KI-Modelle zu umgehen. Ein solcher Wurm kopiert sich durch die Interaktion mit infizierten Cloud-Dokumenten von einem System auf das nächste.
Die Sorge gilt der Art und Weise, wie diese Agenten auf private Daten zugreifen. Da Copilot tief in die Windows-API integriert ist, haben die Agenten weitreichende Lese- und Schreibrechte innerhalb des Dateisystems.
Wie die Bedrohung funktionieren könnte
Das Risiko bei Copilot-Systemen liegt in der Autonomie der Software. Sobald ein Agent infiziert ist, könnte er folgende Aktionen ausführen:
- Automatisches Versenden von Nachrichten via Outlook oder Teams, um sich im Netzwerk zu verbreiten.
- Zugriff auf lokale Dokumente, um sensible Daten wie Passwörter oder Finanzunterlagen an externe Server zu senden.
- Manipulation von Systembefehlen, um weitere Sicherheitsmechanismen wie den Windows Defender zu deaktivieren.
- Verbreitung der Schadsoftware über Cloud-Schnittstellen durch das automatische Editieren von geteilten Dateien in OneDrive oder SharePoint.
Technischer Hintergrund und Branchenkontext
Die aktuelle Bedrohung reiht sich in eine Historie von Sicherheitsrisiken bei Microsoft-Produkten ein, die auf die Automatisierung setzen. Ähnlich wie bei den klassischen Makro-Viren in den 1990er Jahren, bei denen Word-Dateien bösartigen Code ausführten, nutzen KI-Würmer die Berechtigungen der KI-Schnittstelle aus.
Im Gegensatz zu klassischen Trojanern benötigen diese Würmer keine Interaktion durch den Nutzer, sobald der Agent eine infizierte Datei verarbeitet hat. Microsoft hat mit der Einführung der Recall-Funktion bereits massive Kritik von Sicherheitsforschern wie Kevin Beaumont geerntet.
Die Recall-Funktion speichert in regelmäßigen Abständen Screenshots des Bildschirms, um diese für die KI durchsuchbar zu machen. Diese Datenbank ist ein primäres Ziel für Angreifer, da sie unverschlüsselte Informationen aus privaten Unterhaltungen enthält.
Historie der Sicherheitsarchitektur
Microsoft hat in den letzten Jahren wiederholt Probleme mit der Absicherung von Cloud-Integrationen gehabt. Die SolarWinds-Attacke von 2020 zeigte, wie Angreifer tief in die Cloud-Infrastruktur eindringen konnten.
Die Copilot-Architektur basiert auf LLMs (Large Language Models), die über Plugins auf externe Daten zugreifen. Diese Plugins sind laut Berichten der OWASP-Foundation eine Schwachstelle, da sie oft unzureichende Validierungen für Eingabedaten besitzen.
Vergleichbare Sicherheitsrisiken traten bei der Einführung von Power Automate auf. Dort konnten bösartige Workflows erstellt werden, die Daten ohne Wissen des Administrators extrahieren.
Warum das Vertrauen schwindet
Die Idee, dass ein KI-Agent eigenständig Code ausführt, erzeugt Skepsis bei Administratoren. Es stellt sich die Frage, ob der Nutzen der Automatisierung das Sicherheitsrisiko rechtfertigt.
- Forscher schlagen vor, die Autonomie der KI-Agenten durch sogenannte Sandboxing-Technologien zu begrenzen.
- Ein kompletter Verzicht auf diese Agenten wird in sicherheitskritischen Umgebungen von Konzernen diskutiert.
- Unternehmen wie Apple verfolgen mit Apple Intelligence einen anderen Ansatz, bei dem Datenverarbeitung primär lokal stattfindet, um den Zugriff durch externe Agenten zu minimieren.
Ein Blick auf die Realität
Bisher gibt es keine Berichte über aktive Angriffe dieser Art in freier Wildbahn. Die Warnung basiert auf der theoretischen Analyse der aktuellen Architektur von Copilot-Rechnern durch Sicherheitslabore.
Die Entwicklung bleibt ein kritischer Punkt für die IT-Sicherheit. Die Hersteller müssen ihre Sicherheitsmodelle für Large Language Models nachbessern, um eine Infektionskette zu verhindern.
Aktuell sind Nutzer dazu angehalten, die Berechtigungen für KI-Agenten in den Windows-Einstellungen manuell zu prüfen. Die Integration von KI-Funktionen in Betriebssysteme wie Windows 11 sorgt dafür, dass die Angriffsfläche für Schadsoftware zunimmt.
