Un Poète IA Peut-il Écrire Sur L’ambiance De La Fête De La Mi-automne ?

Peut-être que tout le monde rêve de devenir poète, espérant pouvoir exprimer ses émotions avec des vers raffinés comme les anciens lettrés. Par exemple, pendant la fête de la mi-automne, vous pouvez écrire un poème pour envoyer des bénédictions à vos proches et amis. Mais malheureusement, écrire de la poésie n’est pas aussi simple qu’on l’imagine. Cependant, la technologie de l’intelligence artificielle peut déjà réaliser votre rêve de devenir poète. La dernière « Yuefu AI » du laboratoire Noah's Ark de Huawei peut générer un poème en quelques secondes à condition qu'un thème soit donné. Venez écrire de la poésie !

Comment avez-vous passé la fête de la mi-automne ? Ce festival de retrouvailles et d'observation de la lune a inspiré d'innombrables écrivains depuis l'Antiquité jusqu'à nos jours, laissant derrière lui de nombreux poèmes intemporels.

Face au magnifique paysage de la fête de la mi-automne avec sa pleine lune et ses belles fleurs, les anciens ont pu chanter « La lune brillante se lève sur la mer, et les gens du monde entier partagent ce moment. »Le plus beau poème, mais maintenant la plupart des gens ne peuvent que transformer, impuissants, leurs sentiments infinis en une phrase. « Ah, la lune est si ronde. »

C'est probablement la distance entre « Le soleil couchant et l'oie sauvage solitaire volent ensemble, l'eau d'automne et le ciel sont de la même couleur » et « Quel grand oiseau ».

Mais ne soyez pas triste, l’IA peut désormais nous aider à combler cette distance.laisserTout le monde peut facilement composer des poèmes et devenir poète !

Huawei lance l'applet « Yuefu Poetry »

récemment,L'applet EI Experience Space de Huawei a lancé une nouvelle fonctionnalité : la poésie Yuefu.Pour peu que vous donniez un thème, que vous choisissiez le nombre de mots et le genre (quatrain ou vers réglé), vous pouvez créer un poème en un instant. Par exemple, l'entrée Fête de la mi-automne :

Observation de la Lune :

Apprentissage automatique :

« IA » :

Si je ne vous le disais pas, sauriez-vous que ces poèmes ont été écrits par l’IA ? En juin de cette année,Laboratoire de l'Arche de Noé de HuaweiA publié un article« Génération basée sur GPT pour la poésie classique chinoise », qui détaille le processus de formation du modèle et la présentation des résultats.

En général, la technologie clé derrière ce modèle de génération de poésie réside dans la puissance Modèle GPT.

GPT est composé de OpenAI  Le concept de base du modèle de langage naturel pré-entraîné proposé est d'utiliser d'abord du texte non étiqueté pour former le modèle de langage généré, puis d'affiner le modèle grâce à des données étiquetées en fonction de tâches spécifiques.L’équipe a d’abord utilisé un corpus d’actualités chinoises à grande échelle pour former un modèle GPT chinois.Nous avons ensuite utilisé la poésie classique chinoise comme corpus et l'avons peaufinée pour obtenir le système de génération de poésie - Yuefu AI.

De plus, afin de permettre à l'IA d'apprendre à écrire de la poésie par elle-même, ce modèle GPT ne dispose d'aucun paramètre. Le nombre de mots, le rythme, la prosodie et les connaissances en antithèse nécessaires à l'écriture de poésie ne sont pas définis. Le modèle apprend tout cela à partir de données de poésie ancienne par lui-même.

Comparé à « Yuefu AI », les humains qui ont étudié le chinois pendant de nombreuses années mais qui ne sont toujours pas capables d'écrire un poème décent doivent vraiment soupirer d'admiration. 

Un compte rendu détaillé du processus d'apprentissage de l'IA pour écrire de la poésie

La génération de poésie chinoise classique est un défi intéressant dans le domaine de la génération du langage naturel.

Contrairement à la génération de texte libre, la poésie classique chinoise doit généralement répondre à certaines exigences de forme et de contenu. Par exempleNombre de mots, rime, ton et parallélismeattendez. De plus, le contenu exige également que le thème de l’ensemble du poème soit cohérent et cohérent.

En outre, il existe de nombreuses formes de poésie classique chinoise, notamment des quatrains à cinq caractères, des vers réglés, des quatrains à sept caractères, des vers réglés, ainsi que des formes ci telles que Man Jiang Hong et Shui Diao Ge Tou, et des distiques. donc,Il est relativement compliqué d’utiliser des méthodes d’intelligence artificielle pour produire de la poésie chinoise classique.Les scientifiques du laboratoire Noah's Ark de Huawei ont étudié le problème de la génération de poésie avec des formes données et des thèmes spécifiques, et ont proposé une méthode de génération de poésie basée sur le modèle pré-entraîné GPT.

Les détails spécifiques de la méthode sont les suivants :« Yuefu AI » utilise Transfomer comme modèle de base et implémente son propre modèle GPT basé sur le code source BERT.Sa configuration de taille de transformateur est la même que celle de BERT-Base, et il adopte également le script de tokenisation et le vocabulaire chinois publiés dans BERT. Pour la génération de texte, ils ont implémenté des éléments tronqués Échantillonnage Top-kpour générer des textes différents.

Apprendre à écrire de la poésie avec Yuefu AI est divisé en trois étapes :

Phase 1 : Traitement des données

Le modèle GPT du laboratoire Huawei Noah's Ark est formé avec un corpus d'actualités chinoises. La formation des données est principalement divisée enPré-formation et perfectionnementDeux étapes. Pour peaufiner le tout, ils ont rassemblé des poèmes chinois classiques accessibles au public, puis ont converti les exemples de poèmes en séquences formatées.

Phase 2 : Formation du modèle

Ils ont ensuite pré-entraîné leur modèle GPT sur un service cloud avec un corpus d'actualités, un processus qui a pris 90 heures. Nous l'avons ensuite formé pendant 4 époques en utilisant 8 NVIDIA V100 (16 Go). Après l'entraînement, nous affinons en introduisant toutes les séquences d'entraînement du poème dans le transformateur et en entraînant le modèle de langage autorégressif pour maximiser la probabilité d'observer n'importe quelle séquence X :

Étape 3 : Génération de poésie

Une fois la formation terminée, le modèle est ensuite appliqué pour générer des poèmes sur un sujet spécifique sur demande. Ils ont d’abord transformé la forme et le sujet en [formulaire, identifiant1, sujet, identifiant2]La séquence initiale est ensuite donnée au modèle et les champs du corps sont décodés un par un.

Lors du décodage, aucune contrainte stricte n'est requise pour garantir l'exactitude de la forme. Au lieu de cela, le modèle est capable de décoderAttribuer automatiquement des positions pour les virgules et les points.Quand le poème sera terminé, il sera « EOS »Le jeton termine le processus.

« Yuefu AI » a non seulement appris à composer de la poésie, mais a également maîtrisé une nouvelle compétence : la poésie acrostiche.

Pour les poèmes acrostiches, ils utilisent toujours la même méthode pour s'entraîner. Cependant, lors de la formation du modèle de poème acrostiche, ils ont remplacé les thèmes du processus de formation précédent (tels que « Pensées nocturnes tranquilles ») par la première lettre de chaque phrase du poème (comme « On soupçonne que le lit est surélevé »). 

Les surprises apportées par les poètes IA

L’équipe a été surprise par les résultats générés par cette approche.

Ils ont découvert que le modèle avait appris les règles complexes d’appariement des vers réglementés, ce qui est difficile à maîtriser même pour les personnes dont la langue maternelle est le chinois et qui ont reçu une éducation normale (je crois que de nombreux étudiants ressentent la même chose).

Dans les quatrains générés et les vers régulés, les 95% et supérieurs ont obtenu de bons résultats, mais étaient légèrement inférieurs en termes de ci.La raison peut être que, comparée aux quatrains et aux vers réglés, la forme des cipai est relativement plus complexe et les échantillons d'entraînement sont bien moins nombreux que les premiers.

Il existe des dizaines de milliers d'échantillons d'entraînement pour les quatrains et les vers réglementés.Il n'existe que 882 types de mélodies ci.Parmi elles, seules 104 espèces ont plus de 100 échantillons d’entraînement, et même le plus grand échantillon n’en contient que 816.

De plus, au sein d'un sujet donné, les résultats de génération sont généralement bons, mais pour certains sujets, comme la « traduction automatique », il est difficile de générer de la poésie car elle apparaît rarement dans le corpus de formation. Au contraire, des thèmes comme « Pensées d’automne » sont faciles à générer.

L'équipe a présenté,Cette méthode est beaucoup plus simple que la méthode existante basée sur le réseau neuronal récurrent (RNN).Et peut produire une meilleure poésie.

L'IA apprenant à écrire de la poésie existe depuis longtemps

Certains disent que la Chine est un pays de poésie. Depuis l’Antiquité jusqu’à nos jours, les lettrés et les jeunes artistes ont toujours été passionnés par l’écriture poétique. La majorité des étudiants en sciences et en ingénierie continuent également d’utiliser la technologie pour exprimer leurs sentiments romantiques.

En décembre 2017, un robot poétique développé par une équipe de l'Université Tsinghua "Neuf chansons"Il est apparu dans l'émission de CCTV « Super Smart » et les poèmes qu'il a écrits ont apporté une grande surprise au public.

« Jiuge » est basé sur l'apprentissage profond et a appris à écrire de la poésie après avoir appris plus de 800 000 poèmes. Il présente les caractéristiques d'une entrée multimodale, multi-genre et multi-style, et d'un mode de création interactif homme-ordinateur.

Outre la poésie ancienne, la poésie moderne ne semble pas non plus poser de problème à l'IA, commeMicrosoft XiaoIce a publié un recueil de poèmes.Il existe également des outils de génération de poésie IA dans plusieurs langues à l'étranger. 

L’IA peut-elle vraiment écrire de la poésie, ou est-ce qu’elle l’invente ?

L’IA écrit de la poésie, certaines personnes la louent, tandis que d’autres la critiquent.

Liu Luning, directeur de la Société de poésie de Shanghai, a dit un jour que lorsqu'il s'agit de vitesse d'écriture de poésie, les humains ne peuvent pas battre les ordinateurs, mais un poème écrit en un jour ne peut pas être écrit par un ordinateur en mille pages. Le réalisateur Deng Wanying a également déclaré que la caractéristique de la poésie IA est « qu'il y a de la poésie mais pas de texte ».

Comparés aux œuvres des hommes de lettres et des poètes lorsque leur inspiration coule à flot, les poèmes écrits par AI peuvent être qualifiés d'« écrivains sans émotions ». Ils découvrent les modèles de poésie dans une grande quantité de texte et « rassemblent » des vers complets mais potentiellement dénués de sens.

Mais pour les chercheurs, l’écriture de poésie par l’IA est davantage une démonstration de capacités techniques, et ils apprécient le développement de la technologie PNL derrière l’écriture de poésie par l’IA.

De plus, pour les gens ordinaires, les outils d’écriture de poésie IA permettent à chacun de créer et d’exprimer ses sentiments à travers la poésie. C'est également un bon outil de divertissement. Donnons également un peu de temps à l’IA et croyons qu’elle apportera encore plus de surprises au monde.

-- sur--