Qwen

Qwen 1.5에서는 0.5B, 1.8B, 4B, 7B, 14B, 32B, 72B, 110B의 6가지 크기에 대한 기본 모델과 채팅 모델을 오픈소스로 공개.

Qwen2-0.5B, Qwen2-1.5B, Qwen2-7B, Qwen2-57B-A14B, Qwen2-72B

Qwen2.5: 0.5B, 1.5B, 3B, 7B, 14B, 32B, 72B. Qwen2.5-Coder: 1.5B, 7B, 32B (예정). Qwen2.5-Math: 1.5B, 7B, and 72B.

0.6B, 1.7B, 4B, 8B, 14B, 32B 6개 모델, MoE 모델로는 30B-A3B, 235B-A22B 2개 모델 발표 기

코딩 특화 AI 모델로 80B MoE 구조를 기반으로 3B 활성 파라미터만 사용, 소형 모델급 속도로 상용 모델 수준의 복잡한 코딩 및 에이전트 성능을 낸다는 것이 알라바바가 밝힌 특징

Qwen3.6-35B-A3B는 MoE(Mixture, of Experts, 전문가 혼합) 아키텍처를 사용하며, 에이전틱 코딩 성능이 대폭 좋아진 오픈소스 모델.