Google und AI-Startup Nayya im Streit um Gesundheitsdaten

Google hat mit der AI-Start-up Nayya einen Pilotversuch gestartet, um die Nutzung von Mitarbeiterbenefits durch künstliche Intelligenz zu optimieren – doch das Vorhaben eskalierte schnell zu einem Datenschutzskandal. Der Tech-Riese verpflichtete US-angestellte, persönliche Gesundheitsdaten an Nayya weiterzugeben, um auf ihre Versicherungsleistungen zugreifen zu können. Dieser Schritt, der ursprünglich von Google, nicht von der Startup-Firma selbst ausgegangen war, löste heftige Kritik aus. Mitarbeiter fürchteten, ihre vertraulichen Gesundheitsinformationen an ein Drittanbieter-Unternehmen zu übergeben, und befürchteten, ohne Datenfreigabe keinen Zugang zu ihren Leistungen zu erhalten. Nayya-CEO Sina Chehrazi betonte gegenüber Business Insider, dass solche zwingenden Datenanforderungen unüblich seien. In der Regel gebe es bei Partnerschaften mit anderen Unternehmen eine freiwillige, schrittweise Datenspende. „Wir haben so etwas bisher nicht gesehen. Normalerweise geht es darum, Hilfe zu erhalten, wenn man sie braucht“, sagte Chehrazi. Nach Berichten von Business Insider korrigierte Google die Richtlinie: Mitarbeiter können sich nun entscheiden, ob sie Nayya ihre Daten zur Verfügung stellen wollen – ohne dass dies Auswirkungen auf ihre Versorgung hat. Die Verpflichtung zur Datenweitergabe wurde aufgehoben. Nayya, 2020 in New York gegründet, hat über 130 Millionen US-Dollar an Investitionen gesammelt, darunter von führenden HR-Software-Unternehmen wie Workday und ADP. Das Unternehmen entwickelt AI-gestützte Tools, die Mitarbeitern helfen, komplexe Gesundheits- und Finanzleistungen besser zu verstehen. Die Plattform analysiert individuelle Daten wie Gesundheitszustand, Lebensstil und bisherige Leistungsnutzung, um maßgeschneiderte Empfehlungen zu geben – etwa zur Nutzung bereits vorhandener, kostenloser Behandlungen, um Überraschungsrechnungen zu vermeiden. Zudem automatisiert Nayya Prozesse wie die Vorfüllung von Erstattungsanträgen. Die Integration bei Google erfolgte direkt über einen Vertrag mit dem Unternehmen, da Google eine eigene Benefits-Plattform (Benefitfocus) nutzt, die nicht mit Workday verknüpft ist. Die aktuelle Zusammenarbeit konzentriert sich auf die Unterstützung bei der offenen Enrolment-Phase, wobei Nayya seine Entscheidungsunterstützungsplattform einsetzt – nicht jedoch seine agentenbasierte AI. Zukünftig sollen weitere Funktionen wie automatisierte Erstattungen eingeführt werden. Chehrazi sieht in der Fähigkeit, Daten nahtlos aus verschiedenen Quellen zu integrieren, einen entscheidenden Wettbewerbsvorteil. Zudem profitiert Nayya von der starken Verbreitung von Workday, das als „phänomenale Distribution“ gilt. Im Gegensatz zu früheren, oft scheiternden Benefit-Navigatoren wie Castlight Health oder Included Health, setzt Nayya stärker auf aktive, proaktive KI-Unterstützung – was langfristig auch für Arbeitgeber einen messbaren Nutzen bieten könnte: durch bessere Nutzung von Leistungen und die Identifikation untergenutzter Vorteile, die kostengünstiger gestrichen werden könnten. Die Affäre unterstreicht die Spannung zwischen Innovation und Datenschutz in der KI-Ära. Während Unternehmen wie Google, Meta und Microsoft ihre Mitarbeiter zunehmend zur Nutzung von KI ermutigen, steigen gleichzeitig die Risiken, dass sensible Daten ohne echte Einwilligung abgegriffen werden. Chehrazi betont: „Die Zukunft der Daten ist die Zustimmung. Wir helfen nur denen, die Hilfe wollen – und nur auf die Weise, die sie wollen.“ Die Episode zeigt, dass selbst bei gut gemeinten AI-Initiativen die Art und Weise der Datensammlung entscheidend ist. Ob Nayya als Vorreiter für verantwortungsvolle KI im HR-Bereich gelten kann, hängt nun entscheidend davon ab, wie transparent und freiwillig die Zusammenarbeit mit Unternehmen bleibt.