1. チュートリアルの概要

Qwen2.5-VL-32B-Instruct は、2025 年 3 月 24 日に Alibaba Tongyi Qianwen チームによってオープンソース化され、Apache 2.0 プロトコルでリリースされたマルチモーダル大規模モデルです。このモデルは、Qwen2.5-VL シリーズをベースに、強化学習技術によって最適化されており、32B パラメータスケールでマルチモーダル機能の画期的な進歩を実現します。

🚀 Qwen2.5-VL-32B 衝撃のアップグレード！より強力なビジュアル AI、よりスマートなマルチモーダルアシスタント! 🌟

🔥 コア機能のアップグレード

きめ細かな視覚分析: 医療画像解析やエンジニアリング図面認識などの専門分野では、このモデルはピクセルレベルのコンテンツキャプチャ機能を発揮し、マルチグラフの関連付け推論や時空間次元分析をサポートします。
出力スタイルの最適化：モデルの出力内容は、フォーマット仕様や情報詳細の点で人間の表現習慣に近いため、特に複雑なシナリオでは、明確な構造と厳密なロジックを備えたソリューションを生成できます。
数学的推論のブレークスルー: 多変数方程式や幾何学的証明などの複雑な数学問題に対して、アルゴリズムの最適化を通じて問題解決の精度を業界最高レベルまで向上させます。

このチュートリアルでは、デモンストレーションとして Qwen2.5-VL-32B を使用し、コンピューティングリソースは A6000*2 です。

2. 操作手順

1. コンテナを起動した後、API アドレスをクリックして Web インターフェイスに入ります

「モデル」が表示されない場合は、モデルが初期化中であることを意味します。モデルが大きいため、1〜2分ほど待ってからページを更新してください。

2. Web ページに入ると、モデルと会話を開始できます。

このチュートリアルは「オンライン検索」をサポートしています。この機能をオンにすると、推論速度が低下しますが、これは正常です。

3. インターフェース呼び出しの例

このコンテナは、デフォルトで open-webui を使用して Qwen2.5-VL-32B の API サービスを呼び出します。ローカルで使用する必要がある場合は、以下の呼び出し例を参照してください。cURLとPythonの使用例が含まれています。

次のように API_PATH を取得します。

🔹 cURLを使用して呼び出す

使用できます curl コマンドは API を直接呼び出します。

curl {API_PATH}/v1/chat/completions \
  -H "Content-Type: application/json" \
  -H "Authorization: Bearer Empty" \
  -d '{
    "model": "Qwen2.5-VL-32B-Instruct",
    "messages": [
      {
        "role": "user",
        "content": [
          {"type": "text", "text": "请理解图片中的公式，并做详细解释"},
          {"type": "image_url", "image_url": {"url": "https://images2018.cnblogs.com/blog/1203675/201805/1203675-20180525100048863-1610672614.png"}}
        ]
      }
    ],
    "max_tokens": 1024
  }'

🐍 Pythonを使用して呼び出す

必ずインストールしてください openai ライブラリ:

pip install openai

次に、次の Python コードを使用します。

from openai import OpenAI

client = OpenAI(api_key="Empty", base_url="{API_PATH}/v1/")

response = client.chat.completions.create(
    model="Qwen2.5-VL-32B-Instruct",
    messages = [
        {
        "role": "user",
        "content": [
          {"type": "text", "text": "请理解图片中的公式，并做详细解释"},
          {"type": "image_url", "image_url": {"url": "https://images2018.cnblogs.com/blog/1203675/201805/1203675-20180525100048863-1610672614.png"}}
        ]
      }
    ],
    max_tokens=1000
)
print(response.choices[0].message.content)

このように、適切な方法を使用して、さまざまな環境で Qwen2.5-VL-32B API を呼び出すことができます。 🚀

交流とディスカッション

🖌️ 高品質のプロジェクトを見つけたら、メッセージを残してバックグラウンドで推奨してください。さらに、チュートリアル交換グループも設立しました。お友達はコードをスキャンして [SD チュートリアル] に参加し、さまざまな技術的な問題について話し合ったり、アプリケーションの効果を共有したりできます。