1. 튜토리얼 소개

Qwen2.5-VL-32B-Instruct는 Alibaba Tongyi Qianwen 팀이 2025년 3월 24일에 오픈 소스로 공개한 멀티모달 대규모 모델이며 Apache 2.0 프로토콜에 따라 출시되었습니다. Qwen2.5-VL 시리즈를 기반으로 한 이 모델은 강화 학습 기술을 통해 최적화되었으며, 32B 매개변수 규모로 다중 모드 기능에서 획기적인 성과를 달성했습니다.

🚀 Qwen2.5-VL-32B 충격적인 업그레이드! 더욱 강력한 시각적 AI, 더욱 스마트한 멀티모달 어시스턴트! 🌟

🔥 핵심 기능 업그레이드

세밀한 시각적 분석: 의료 영상 분석 및 엔지니어링 도면 인식과 같은 전문 분야에서 이 모델은 픽셀 수준 콘텐츠 캡처 기능을 보여주고 다중 그래프 연관 추론 및 시공간 차원 분석을 지원합니다.
출력 스타일 최적화：모델의 출력 내용은 형식 사양과 정보 세부 사항 면에서 인간의 표현 습관에 더 가깝고, 특히 복잡한 시나리오에서 명확한 구조와 엄격한 논리로 솔루션을 생성할 수 있습니다.
수학적 추론 혁신: 다변수 방정식과 기하학적 증명을 포함한 복잡한 수학 문제의 경우, 이 모델은 알고리즘 최적화를 통해 문제 해결의 정확도를 업계 최고 수준으로 향상시킵니다.

이 튜토리얼에서는 Qwen2.5-VL-32B를 데모로 사용하며, 컴퓨팅 리소스는 A6000*2입니다.

2. 작업 단계

1. 컨테이너 시작 후 API 주소를 클릭하여 웹 인터페이스로 진입합니다.

"모델"이 표시되지 않으면 모델이 초기화되고 있음을 의미합니다. 모델이 크기 때문에 1~2분 정도 기다리신 후 페이지를 새로고침해 주세요.

2. 웹페이지에 접속 후 모델과 대화를 시작할 수 있습니다.

이 튜토리얼은 "온라인 검색"을 지원합니다. 이 기능을 켜면 추론 속도가 느려지는데, 이는 정상적인 현상입니다.

3. 인터페이스 호출 예제

이 컨테이너는 기본적으로 open-webui를 사용하여 Qwen2.5-VL-32B의 API 서비스를 호출합니다. 로컬로 사용해야 하는 경우 아래의 호출 예를 참조할 수 있습니다.cURL과 Python을 사용하는 예가 포함되어 있습니다..

다음과 같이 API_PATH를 가져옵니다.

🔹 cURL을 사용하여 호출

사용할 수 있습니다 curl 이 명령은 API를 직접 호출합니다.

curl {API_PATH}/v1/chat/completions \
  -H "Content-Type: application/json" \
  -H "Authorization: Bearer Empty" \
  -d '{
    "model": "Qwen2.5-VL-32B-Instruct",
    "messages": [
      {
        "role": "user",
        "content": [
          {"type": "text", "text": "请理解图片中的公式，并做详细解释"},
          {"type": "image_url", "image_url": {"url": "https://images2018.cnblogs.com/blog/1203675/201805/1203675-20180525100048863-1610672614.png"}}
        ]
      }
    ],
    "max_tokens": 1024
  }'

🐍 Python을 사용하여 호출

꼭 설치해주세요 openai 도서관:

pip install openai

그런 다음 다음 Python 코드를 사용하세요.

from openai import OpenAI

client = OpenAI(api_key="Empty", base_url="{API_PATH}/v1/")

response = client.chat.completions.create(
    model="Qwen2.5-VL-32B-Instruct",
    messages = [
        {
        "role": "user",
        "content": [
          {"type": "text", "text": "请理解图片中的公式，并做详细解释"},
          {"type": "image_url", "image_url": {"url": "https://images2018.cnblogs.com/blog/1203675/201805/1203675-20180525100048863-1610672614.png"}}
        ]
      }
    ],
    max_tokens=1000
)
print(response.choices[0].message.content)

이렇게 하면 다양한 환경에서 적절한 방법을 사용하여 Qwen2.5-VL-32B API를 호출할 수 있습니다! 🚀

교류 및 토론

🖌️ 고품질 프로젝트를 발견하시면, 백그라운드에 메시지를 남겨 추천해주세요! 또한, 튜토리얼 교환 그룹도 만들었습니다. 친구들의 QR코드 스캔과 [SD 튜토리얼] 댓글을 통해 그룹에 가입하여 다양한 기술 이슈에 대해 논의하고 신청 결과를 공유해 주시기 바랍니다.↓