Künstliche Intelligenz (KI) wird zunehmend missbraucht, um betrügerische Rechnungen zu erstellen und falsche Ausgabenabrechnungen zu stellen. Laut dem Softwareanbieter AppZen machten künstlich generierte Rechnungen in den letzten Jahren etwa 14 Prozent aller betrügerischen Versuche im Bereich der Unternehmensausgaben aus. Diese Entwicklung stellt eine erhebliche Herausforderung für Finanzabteilungen und Compliance-Systeme dar, da KI-generierte Dokumente oft so realistisch erscheinen, dass sie von menschlichen Prüfern kaum zu erkennen sind. Die zugrunde liegende Technologie ermöglicht es, Rechnungen mit realistischen Details wie korrekten Logos, Adressen, Steuernummern und sogar konsistenten Datumsformaten zu erstellen – oft innerhalb weniger Sekunden. Diese Rechnungen werden häufig in kleinen Beträgen ausgestellt, um die Wahrscheinlichkeit einer Entdeckung zu minimieren. Die Angriffe sind oft gezielt auf Schwachstellen in internen Abrechnungsprozessen abgestimmt, insbesondere in Unternehmen mit unzureichenden automatisierten Prüfsystemen. AppZen, ein führender Anbieter von KI-gestützten Audit-Lösungen, hat spezielle Algorithmen entwickelt, um solche gefälschten Dokumente zu erkennen. Diese Systeme analysieren nicht nur den Inhalt, sondern auch die Metadaten, die Struktur und die konsistente Nutzung von Sprache und Formatierung. Dabei zeigen sich signifikante Unterschiede zwischen echten und künstlich generierten Rechnungen – etwa in der Wortwahl, der Reihenfolge von Positionen oder der Anzahl der einzelnen Zeilen. Die zunehmende Verbreitung von KI-generierten Fälschungen hat Unternehmen dazu veranlasst, ihre internen Kontrollen zu verstärken. Viele setzen mittlerweile auf KI-basierte Audits, die neben der Prüfung von Rechnungen auch Verhaltensmuster von Mitarbeitern analysieren, um verdächtige Abrechnungen frühzeitig zu identifizieren. Zudem wird zunehmend Wert auf die Schulung von Finanzmitarbeitern gelegt, um sie auf die neuen Bedrohungen aufmerksam zu machen. Industrieexperten warnen, dass die Entwicklung weiter voranschreitet und dass Betrüger bald noch realistischere und schwerer erkennbare Fälschungen erstellen könnten. „Wir befinden uns in einem Wettrüsten zwischen KI-gestützten Betrugsmethoden und KI-gestützten Sicherheitslösungen“, sagt ein Sicherheitsexperte von AppZen. „Die Herausforderung besteht darin, schneller zu reagieren, als die KI-Technologie in die Hände von Kriminellen gelangt.“ AppZen ist ein in den USA ansässiger Anbieter von KI-gestützten Compliance- und Audit-Lösungen, der bereits für Unternehmen wie Adobe, Cisco und Salesforce tätig ist. Das Unternehmen hat sich auf die Automatisierung von Finanzprozessen spezialisiert und setzt dabei auf maschinelles Lernen, um Abweichungen und Risiken in Echtzeit zu erkennen. Mit der steigenden Bedrohung durch KI-basierte Betrugsmuster wird die Rolle solcher Plattformen kritisch für die Zukunft der Unternehmensfinanzen.