top of page


Qwen3.8-27B 실전 벤치마크: 처리량·응답시간·KV 캐시까지
안녕하세요. AIEEV 개발팀에서 AI 인프라 연구개발을 담당하고 있는 조용래입니다. Air API에 Qwen3.8-27B-BF16 모델이 새롭게 추가됐습니다. 현재 Air API의 Playground에서 테스트 환경을 제공하고 있어, 별도의 인프라나 서빙 엔진을 준비하지 않고도 지금 바로 실제 업무 데이터와 프롬프트로 성능을 시험해 볼 수 있습니다. 이번 글에서는 Qwen3.8-27B의 주요 특징과 공개 벤치마크를 먼저 살펴봅니다. 이어 단일 GPU 환경에서 측정한 처리량과 응답시간, 메모리 사용 특성을 공유하고, 이러한 결과를 실제 서비스의 모델 선택과 검증에 어떻게 활용할 수 있는지 정리하겠습니다. Qwen3.8-27B은 어떤 모델인가요? Qwen3.8-27B는 대화와 문서 이해, 코드 작성부터 여러 단계에 걸친 복잡한 작업까지 폭넓게 수행할 수 있는 멀티모달 AI 모델입니다. Alibaba Group의 Qwen Team이 2026년 8
5일 전
bottom of page
