Inhalte im Überblick:Während Deep-Synthesis-Dienste die Bedürfnisse der Benutzer erfüllen und das Benutzererlebnis verbessern, werden sie auch von einigen skrupellosen Personen dazu verwendet, illegale Informationen zu produzieren, zu kopieren, zu veröffentlichen und zu verbreiten, den Ruf und die Ehre anderer zu verleumden und zu diffamieren, sich als andere auszugeben, um Betrug und andere illegale Handlungen zu begehen. Nun wurden endlich Verwaltungsvorschriften für diese Technologie veröffentlicht.

Schlüsselwörter:Deepfake-Tiefensynthese-Regulierung   

Kürzlich hat die Cyberspace Administration of China die „Vorschriften zum Deep Integration Management von Internetinformationsdiensten“ herausgegeben. Darin heißt es, dass die Vorschriften von der Cyberspace Administration of China geprüft und genehmigt sowie vom Ministerium für Industrie und Informationstechnologie und dem Ministerium für öffentliche Sicherheit genehmigt wurden und am 10. Januar 2023 in Kraft treten werden.

Der Schuh ist gelandet, und die Deep-Synthese-Technologie wurde eingesetzt, um die Lücken zu schließen

Tatsächlich hat die Cyberspace Administration of China bereits im Januar dieses Jahres die „Vorschriften zur Verwaltung der tiefen Integration von Internetinformationsdiensten (Entwurf zur Kommentierung)“ herausgegeben und öffentlich die Meinung der Öffentlichkeit eingeholt. Nach 11 Monaten ist der Entwurf endlich in Kraft getreten.Die Entwicklung von ChatGPT, das in letzter Zeit große Fortschritte gemacht hat, könnte im Land auf Eis gelegt werden.

Die diesmal offiziell veröffentlichten Verwaltungsvorschriften klären den Umfang und die Nutzungsspezifikationen der Deep-Synthesis-Technologie weiter.Deckt relevante Technologien in mehreren Modalitäten ab, z. B. Text, Bilder, Audio und Video.

Die Betriebsordnung enthält neben allgemeinen Bestimmungen auch nähere Vorgaben und Erläuterungen zu daten- und betriebstechnischen Standards, zur Aufsicht und Kontrolle sowie zu den rechtlichen Verantwortlichkeiten. In diesem Artikel werden einige der wichtigsten Bestimmungen aufgeführt.

Verbot der Produktion und Verbreitung falscher Nachrichten 

Anbieter und Nutzer von Deep-Synthesis-Diensten dürfen diese nicht dazu verwenden, falsche Nachrichteninformationen zu produzieren, zu kopieren, zu veröffentlichen oder zu verbreiten. Beim Nachdruck von Nachrichteninformationen, die auf der Grundlage von Deep-Synthesis-Diensten erstellt und veröffentlicht wurden, sollten die von der Internet-Nachrichteninformationsquelle veröffentlichten Nachrichteninformationen in Übereinstimmung mit dem Gesetz nachgedruckt werden.

Die Verwendung der Deep-Synthesis-Technologie erfordert eine Echtnamenauthentifizierung 

Anbieter von Deep-Synthesis-Diensten müssen die tatsächlichen Identitätsinformationen der Nutzer von Deep-Synthesis-Diensten gemäß dem Gesetz auf der Grundlage von Mobiltelefonnummern, Ausweisdokumentnummern, einheitlichen Sozialkreditcodes oder nationalen öffentlichen Diensten zur Online-Identitätsauthentifizierung authentifizieren.Benutzern des Deep-Synthesis-Dienstes, die ihre tatsächlichen Identitätsdaten nicht authentifiziert haben, dürfen keine Dienste zur Veröffentlichung von Informationen bereitgestellt werden.

Bei der Verwendung mehrerer personenbezogener Daten ist eine separate Einwilligung erforderlich 

Anbieter von Deep-Synthese-Diensten und technische Unterstützer sollten das Trainingsdatenmanagement stärken und die notwendigen Maßnahmen ergreifen, um die Sicherheit der Trainingsdaten zu gewährleisten. Wenn die Trainingsdaten personenbezogene Daten enthalten, müssen sie den einschlägigen Bestimmungen zum Schutz personenbezogener Daten entsprechen.

Anbieter von Deep-Synthese-Diensten und technische Unterstützer, die Funktionen zur Bearbeitung von Gesichtern, Stimmen und anderen biometrischen Informationen bereitstellen,Nutzer von Deep-Synthesis-Diensten sollten dazu aufgefordert werden, die betroffenen Personen entsprechend den gesetzlichen Bestimmungen zu informieren und deren gesonderte Einwilligung einzuholen.

Inhalte, die mit Deep-Synthesis-Diensten erstellt oder bearbeitet werden, müssen deutlich gekennzeichnet sein. 

Für Informationsinhalte, die mit dem Deep Synthesis-Dienst erstellt oder bearbeitet werden,Dabei ist vorgeschrieben, dass technische Maßnahmen zum Hinzufügen von Logos getroffen werden, die die Nutzung durch den Benutzer nicht beeinträchtigen.Und bewahren Sie Protokollinformationen gemäß Gesetzen, Verwaltungsvorschriften und relevanten nationalen Bestimmungen auf.

Der Anbieter von Deep-Synthesis-Diensten stellt die folgenden Deep-Synthesis-Dienste bereit, die in der Öffentlichkeit zu Verwirrung oder Missverständnissen führen können:Die erstellten oder bearbeiteten Informationsinhalte sollten an geeigneten Stellen und in geeigneten Bereichen deutlich gekennzeichnet werden.Um die Öffentlichkeit auf die Tiefensynthese aufmerksam zu machen:

(1) Intelligente Konversation, intelligentes Schreiben oder andere Dienste, die eine natürliche Person simulieren, um Text zu generieren oder zu bearbeiten;

(2) Bearbeitungsdienste, die Stimmen wie synthetische menschliche Stimmen oder Stimmenimitationen erzeugen oder persönliche Identitätsmerkmale erheblich verändern;

(3) Bearbeitungsdienste, die Bilder oder Videos von Personen erzeugen, wie etwa Gesichtsgenerierung, Gesichtsersetzung, Gesichtsmanipulation, Haltungsmanipulation oder die persönliche Identitätsmerkmale erheblich verändern;

(IV) Dienstleistungen zur Erstellung oder Bearbeitung immersiver simulierter Szenen;

(5) Sonstige Dienste, deren Funktion darin besteht, Informationsinhalte zu erzeugen oder wesentlich zu verändern.

Wenn ein Anbieter von Deep-Synthese-Diensten andere Deep-Synthese-Dienste anbietet als die im vorhergehenden Absatz genannten,Es sollte eine auffällige Markierungsfunktion bereitgestellt werden und Benutzer von Deep-Synthesis-Diensten sollten darauf hingewiesen werden, dass sie auffällige Markierungen vornehmen können.

Verbesserung des Beschwerde- und Meldeportals, Standardisierung des Prozesses und der Feedbackfrist 

Anbieter von Deep-Synthesis-Diensten sollten bequeme Portale für Benutzereinsprüche sowie öffentliche Beschwerden und Berichte einrichten, Bearbeitungsverfahren und Fristen für Rückmeldungen veröffentlichen und Bearbeitungsergebnisse umgehend annehmen, verarbeiten und zurückmelden.

Vervollständigen Sie die „Vorschriften zur Verwaltung der tiefen Integration von Internetinformationsdiensten“.

Der Weg zu einer umfassenden Technologie-Governance ist lang und beschwerlich 

In den letzten JahrenDie Menge an Deep-Synthese-Inhalten ist explosionsartig angestiegen.Das Institut für Künstliche Intelligenz der Tsinghua-Universität hat mit mehreren Institutionen zusammengearbeitet, um den „Top Ten Trends in Deep Synthesis Report (2022)“ zu veröffentlichen.

Der Bericht weist darauf hin, dass die Anzahl der im Jahr 2021 neu veröffentlichten Deep-Synthesis-Videos höher ist als im Jahr 2017.Die Wachstumsrate hat das Zehnfache überschritten.Es umfasst viele Bereiche, darunter Film, Fernsehen, Musik, Wissenschafts- und Technologiebildung, Leben, Unterhaltung, Information usw.

Die Menge an tief synthetischem Inhalt ist enorm und schwer zu identifizieren.Es gab viele Versuche, im In- und Ausland Aufsichts- und Managementmechanismen einzurichten und zu verbessern.

Im November 2019Die Cyberspace Administration of China, das Ministerium für Kultur und Tourismus und die Nationale Radio- und Fernsehverwaltung haben gemeinsam die „Vorschriften zur Verwaltung von Online-Audio- und Videoinformationsdiensten“ herausgegeben, in denen klar festgelegt ist, dass „neue Technologien und Anwendungen auf der Grundlage von Deep Learning, virtueller Realität usw. nicht zur Erstellung, Veröffentlichung oder Verbreitung falscher Nachrichteninformationen verwendet werden dürfen.“

Dezember 2019Die Cyberspace Administration of China hat die „Vorschriften zur ökologischen Verwaltung von Netzwerkinformationsinhalten“ verabschiedet und verkündet, die die Verwendung von Deep-Learning- und Virtual-Reality-Technologien für illegale Aktivitäten verbieten.

Dezember 2020Das Zentralkomitee der Kommunistischen Partei Chinas hat den „Umsetzungsplan für den Aufbau einer Rechtsstaatsgesellschaft (2020–2025)“ herausgegeben, der die Formulierung und Verbesserung standardisierter Managementmethoden für neue Technologien wie Deep Fakes vorsieht.

Auch,Auch die USA und die Europäische Union haben eine Reihe relevanter Gesetze und Vorschriften zur Deep-Synthesis-Technologie erlassen.

Dezember 2019Das US-Repräsentantenhaus verabschiedete den „Fiscal Year 2020 National Defense Authorization Act“, der die Regierung verpflichtet, der Legislative über Deepfake-Desinformationsaktivitäten mit transnationalen, organisierten und politischen Zielen Bericht zu erstatten.

Die Europäische Union hat die Technologiegiganten öffentlich dazu aufgefordert, Maßnahmen zu ergreifen, um den Kampf gegen Deepfakes zu intensivieren. Andernfalls drohen ihnen hohe Geldstrafen in Höhe von bis zu 61 Billionen US-Dollar ihres weltweiten Umsatzes.

Von der ZAO-App, die innerhalb von weniger als einer Woche nach ihrer Einführung aus den Regalen genommen werden musste, über den echten und falschen Obama bis hin zu Ants,Die Technologie der Tiefensynthese entwickelt sich ständig weiter und Richtlinien und Vorschriften müssen mit der Zeit Schritt halten.

Nur durch die Förderung der legalen, vernünftigen und effektiven Nutzung der Deep-Synthesis-Technologie,Nur indem wir die Risiken der Deep-Synthesis-Technologie aktiv verhindern und beseitigen, können wir die gesunde Entwicklung von Internetinformationsdiensten fördern und eine gute Ökologie des Cyberspace aufrechterhalten.