🇰🇷 한글 설명
vLLM 0.30.0 미만 버전에서 구조화된 출력 요청 실패 시 검증을 우회하여 엔진 코어의 치명적 오류 경로에 도달할 수 있는 취약점이 존재합니다. 백엔드 불일치, 문법 컴파일 예외, 잘못된 토큰 전달 및 프론트엔드 간의 데이터 불일치로 인해 일반적인 제약 생성 요청이 공유 엔진을 종료시킬 수 있습니다.
💡 쉬운 설명
특정한 형식의 답변을 요구하는 요청을 보낼 때, 시스템 내부의 오류를 유발하여 서비스 전체를 중단시킬 수 있는 문제입니다. 악의적인 요청을 통해 인공지능 엔진을 강제로 종료시켜 서비스를 방해할 수 있습니다.
🇺🇸 원문 (English)
vLLM is an inference and serving engine for large language models. Prior to 0.30.0, structured-output request failures can escape request-scoped validation and reach the EngineCore fatal-error path. A per-request backend mismatch can re-raise a grammar compilation exception, padding produced by the ngram_gpu speculative-decoding mode can pass a negative token to guidance validation, and the Rust frontend can admit empty structured-output values that the Python frontend rejects, allowing ordinary constrained-generation requests to terminate the shared engine. This issue is fixed in version 0.30.0.
📍 영향받는 시스템
vLLM 0.30.0 미만 버전
⚔️ 공격 벡터
구조화된 출력(structured-output)을 사용하는 특수하게 조작된 요청을 전송하여 엔진 코어 오류 유발
🛡️ 대응 방법
vLLM 버전을 0.30.0 이상으로 업데이트
🔧 검증 코드
출력된 버전 번호가 0.30.0보다 낮으면 취약한 상태입니다.
pip show vllm | grep Version