Ein Fehler in Microsofts Copilot-Intelligenz-Plattform hat laut dem Unternehmen mehrere Wochen lang vertrauliche E-Mails von Kunden unerlaubt an die KI-Modelle übermittelt. Die Sicherheitslücke, die erstmals von Bleeping Computer aufgedeckt wurde, ermöglichte es dem Copilot Chat, den Inhalt von E-Mails – sowohl Entwürfen als auch bereits versandten Nachrichten – zu lesen und zu summarisieren, selbst wenn diese mit einem „Vertraulich“-Label versehen waren. Diese Funktion ist Teil der Microsoft 365-Produkte wie Word, Excel und PowerPoint, die ab dem 1. Januar 2024 für zahlende Abonnenten über eine KI-gestützte Chat-Funktion verfügen. Der Fehler, identifiziert unter der Kennung CW1226324, führte dazu, dass sensiblen Daten, die durch Data Loss Prevention (DLP)-Richtlinien geschützt sein sollten, dennoch in Microsofts große Sprachmodelle gelangten. Microsoft bestätigte, dass die betroffenen Nachrichten – auch wenn sie als vertraulich gekennzeichnet waren – falsch verarbeitet wurden. Die Firma begann Anfang Februar mit der Bereitstellung eines Patches, um die Lücke zu schließen. Ein Unternehmenssprecher erklärte jedoch nicht, wie viele Kunden betroffen waren, und reagierte nicht auf Anfragen zur genauen Umfangsangabe. Die Vorfälle lösten erhebliche Bedenken hinsichtlich der Datensicherheit aus, insbesondere in regulatorisch sensiblen Umgebungen. So entschied die IT-Abteilung des Europäischen Parlaments, die integrierten KI-Funktionen auf allen Arbeitsgeräten zu deaktivieren, um zu verhindern, dass vertrauliche Korrespondenz unbefugt in die Cloud übertragen werden könnte. Die Entscheidung spiegelt eine wachsende Skepsis gegenüber KI-Systemen wider, die auf Cloud-basierten Modellen basieren und potenziell sensible Informationen verarbeiten. Industrieexperten sehen in dem Vorfall ein Beispiel für die Risiken, die mit der Integration von KI in Unternehmenssoftware verbunden sind. „Ein solcher Fehler zeigt, dass selbst große Tech-Unternehmen bei der Umsetzung von KI nicht immer die Sicherheitsstandards gewährleisten können, die von Kunden erwartet werden“, sagte ein Datenschutzanalyst. Microsoft, das mit Copilot einen zentralen Bestandteil seiner Produktstrategie für die Zukunft sieht, steht nun unter Druck, Transparenz und bessere Kontrollmechanismen zu bieten. Die Firma hat bereits angekündigt, die Protokollierung und Überwachung der KI-Interaktionen zu verbessern, um zukünftig solche Vorfälle frühzeitig zu erkennen. Der Vorfall unterstreicht zudem die Notwendigkeit klarer Nutzungsrichtlinien und stärkerer Sicherheitsüberprüfungen bei der Einführung von KI-Tools in geschäftskritischen Systemen. Für Unternehmen, die auf Microsoft 365 angewiesen sind, wird die Vertrauenswürdigkeit der KI-Integration nun entscheidend für die Entscheidung über den Einsatz solcher Funktionen sein.