Déploiement En Un Clic De Mistral-Nemo-Instruct-2407

Introduction au tutoriel

Ce tutoriel est un déploiement en un clic de Mistral-Nemo-Instruct-2407. L'environnement et les dépendances pertinents ont été installés. Il vous suffit de le cloner pour expérimenter le raisonnement. Mistral-Nemo-Instruct-2407 est une version améliorée de l'instruction Mistral-Nemo-Base-2407 ouverte conjointement par Mistral AI et NVIDIA, et ses performances sont nettement meilleures que celles des modèles existants plus petits ou de taille similaire. Mistral NeMo possède 12 milliards (12B) de paramètres et une fenêtre contextuelle de 128 000, et son raisonnement, sa connaissance du monde et sa précision d'encodage sont à la pointe à une échelle similaire. Parce que Mistral NeMo s'appuie sur une architecture standard, il est facile à utiliser et peut être un remplacement direct dans n'importe quel système utilisant Mistral 7B.

Caractéristiques du modèle

• Entraînement avec 128 000 fenêtres de contexte
• Formé avec une grande quantité de données multilingues et de codes
• Remplacement direct du Mistral 7B
• Les points de contrôle de base pré-entraînés et les points de contrôle de réglage fin des instructions sont publiés sous la licence Apache 2.0, permettant une utilisation commerciale.

Comment courir

1. Cloner et démarrer le conteneur

2. Lorsque le conteneur est en cours d'exécution, ouvrez l'adresse API pour déduire le modèle d'expérience.

3. Cliquez ci-dessous pour saisir le texte d'invite, cliquez sur Soumettre

4. Générer des résultats