1. チュートリアルの概要

Llama-3.3-70B-Instruct は、2024 年に Meta によって発表された大規模な言語モデルです。現在、Llama 3.3 シリーズの唯一のオープンソース モデルであり、命令の微調整バージョンは特別に最適化されています。このモデルは、英語、ドイツ語、フランス語、イタリア語、ポルトガル語、ヒンディー語、スペイン語、タイ語の合計 8 言語をサポートしていますが、現時点では中国語をサポートしていません。性能評価では、Llama-3.3-70B-Instructのパラメータサイズは約70Bですが、評価指標はパラメータサイズ405BのLlama3.1-405Bモデルとほぼ同等であり、使用できるリソースが少なくて済みます。テキストをより速く生成するため、パフォーマンスはパラメータ スケールが 6 倍近い大規模モデルと同等になります。これにより、Llama-3.3-70B-Instruct は強力でコスト効率の高い代替品となり、オープンソースでアクセス可能な状態を維持しながら、主要なベンチマークで優れたパフォーマンスを提供します。

本教程使用 Llama-3.3-70B-Instruct（采取 int4 量化）作为演示，算力资源采用 A6000 。

2. 操作手順

1. コンテナ起動後、API アドレスをクリックして Web インターフェースに入ります (「Bad Gateway」と表示された場合は、モデルが初期化中であることを意味します。モデルが大きいため、5 分ほど待ってから再試行してください)。 )

2. Webページに入るとモデルと会話がスタート！

モデル対話プロセス

交流とディスカッション

🖌️ 高品質のプロジェクトを見つけたら、メッセージを残してバックグラウンドで推奨してください。さらに、チュートリアル交換グループも設立しました。お友達はコードをスキャンして [SD チュートリアル] に参加し、さまざまな技術的な問題について話し合ったり、アプリケーションの効果を共有したりできます。