L'IA a Remplacé Les Visages De Tsai Ing-wen Et De Centaines D'autres Célébrités ; La Célébrité Internet Taïwanaise Xiaoyu a Été Arrêtée

Le mois dernier, la célèbre célébrité taïwanaise de YouTube, « Xiao Yu », a été officiellement arrêtée, soupçonnée de distribution de matériel obscène et de diffamation, et a été transférée au bureau du procureur du district de New Taipei pour enquête.

La police a annoncé queXiaoyu et d'autres suspects ont utilisé la technologie de changement de visage par IA de DeepFake pour recruter plus de 8 000 membres, réalisant des profits illégaux d'environ 11 millions de NT$ (environ 2,5 millions de RMB). Il y a eu plus d'une centaine de victimes du changement de visage, toutes des célébrités d'Internet, du cinéma, de la télévision et des cercles politiques.

Xiaoyu change de visage, Xiaoying a l'air froide

Xiaoyu a été arrêtée cette fois-ci parce qu'elle a été dénoncée par des habitants de l'île pour avoir vendu des vidéos d'échange de visages dans un groupe Telegram. Parmi ces vidéos DeepFake changeant de visage, Tsai Ing-wen, la dirigeante de la région chinoise de Taiwan, est également incluse.

Xiaoyu (de son vrai nom Zhu Yuchen), né en 1995, est diplômé du St. Mary's Medical and Management College dans le comté de Yilan, province de Taiwan. Elle était stagiaire au sein du groupe d'idols taïwanais TPI. Elle a publié sa première vidéo sur YouTube en 2016. Le contenu initial était orthodoxe, principalement des critiques de déballage.

Plus tard, afin de plaire au public adolescent, le style de peinture est progressivement devenu absurde, le langage est devenu tranchant et audacieux, et les vidéos de déballage tournées sont devenues de plus en plus bizarres et n'avaient même aucun résultat.

Xiaoyu compte 1,2 million de fans sur YouTube et près de 600 millions de vues, ce qui fait d'elle une célébrité Internet de premier plan à Taiwan.Mais après qu'une vidéo en avril de l'année dernière a provoqué une grave controverse sociale, le compte de Xiaoyu est resté inactif pendant plusieurs mois.

Au cours de la controverse sur le changement de visage, Tsai Ing-wen a également publié sur les réseaux sociaux :« L'utilisation de la technologie vise à améliorer la vie de l'humanité, et non à nuire à autrui. Ces victimes peuvent être des personnes qui nous sont chères, ou nos proches et amis. Nous ne pouvons pas rester les bras croisés. »Il a également exhorté le département juridique de Taïwan à mettre à jour ses politiques juridiques concernant la technologie de l’IA qui change le visage.

Législation/études de cas mondiales sur l'échange de visages par l'IA

• Chine

Selon l'article 1019 du Code civil de la République populaire de Chine : « Aucune organisation ni aucun individu ne peut porter atteinte aux droits d'image d'autrui par le biais de diffamation, de dégradation ou de falsification en utilisant des moyens d'information technique. » (Partie 4 Droits personnels Chapitre 4 Droits relatifs aux portraits)

• USA

Outre le Comité de la sécurité intérieure et des affaires gouvernementales du Sénat américain, qui promeut actuellement un projet de loi ciblant la technologie DeepFake, les États américains ont également introduit successivement des lois pertinentes au niveau de l'État.

Le Texas et la Californie ont été introduits « Interdire la diffusion de vidéos trompeuses pendant les élections pour interférer avec le vote des électeurs »règlements.

• Japon

Le Japon n'a pas encore introduit de réglementation formelle pour restreindre la diffusion de contenu de type DeepFake, mais a récemment statué sur la première affaire criminelle impliquant un changement de visage par IA au Japon.

L'année dernière, Takumi Hayashida, un étudiant de deuxième année à l'Université de Kumamoto, a été arrêté pour avoir produit et diffusé des vidéos de changement de visage par l'IA. De décembre 2019 à juillet 2020, Takumi Hayashida a mis en ligne plusieurs vidéos obscènes réalisées par lui-même de deux artistes féminines avec un échange de visage par IA sur un site Web payant qu'il exploitait, et a été poursuivi en justice par les entreprises impliquées.

En septembre de cette année, le tribunal de district de Tokyo a reconnu le défendeur Takumi Hayashida coupable de violation de la loi sur le droit d'auteur et de diffamation, et l'a condamné à deux ans de détention (avec sursis pendant trois ans) et à une amende d'un million de yens (environ 50 000 RMB).'

post-scriptum

Alors que la demande mondiale pour l’application de la technologie de l’IA continue de croître, le nombre de problèmes de sécurité et de confidentialité exposés augmente également, y compris certains crimes graves aux conséquences de grande envergure.

De nombreux pays et régions adoptent des lois le plus rapidement possible pour lutter contre les crimes technologiques.Cependant, la technologie elle-même est proactive et cachée, et il est difficile d’arrêter tous les actes criminels en temps opportun. Le seul effet dissuasif peut être obtenu par une sanction ultérieure.

Dans le même temps, le seuil des crimes technologiques continuera de diminuer avec les mises à jour technologiques.Bien que la célébrité Internet Xiaoyu ait un faible niveau d'éducation, elle a pu former une équipe, produire des vidéos, les diffuser rapidement et réaliser des bénéfices en peu de temps.

Il y a 20 ans, la retouche photo n'était pas encore populaire et la retouche photo malveillante était appelée « greffe » par les médias et était considérée comme un acte de confusion des faits. De nos jours, les smartphones et les ordinateurs de chacun peuvent facilement modifier et embellir des images et des vidéos grâce à des logiciels. ZAO, un logiciel de changement de visage qui a connu un bref succès, a également été retiré d'urgence des rayons en raison de sa fonction de changement de visage en un clic.

La technologie mettra la technologie entre les mains des gens, et chacun pourra avoir la boîte de Pandore.Les lois ne sont que la base de la tolérance sociale. Lorsque la moralité ne peut pas contraindre le comportement, la vulgarisation du droit et l’orientation du public vers une utilisation rationnelle de la technologie devraient devenir les questions les plus urgentes du moment.