🇰🇷 한글 설명
Giskard는 AI 모델을 위한 오픈소스 테스트 프레임워크입니다. 1.0.2b1 이전 버전에서는 ConformityCheck 클래스가 rule 파라미터를 Jinja2의 기본 Template() 생성자로 렌더링하여 템플릿 표현식이 런타임에 조용히 해석되었습니다. 신뢰할 수 없는 출처에서 체크 정의를 로드하면 조작된 규칙 문자열로 임의 코드 실행이 가능합니다.
💡 쉬운 설명
AI 모델 테스트 도구가 규칙 문자열을 잘못 처리해, 악의적인 설정 파일이 컴퓨터에서 임의의 명령을 실행하게 만들 수 있습니다. 공격하려면 검사 정의 파일에 쓰기 권한이 있어야 하고 테스트 스위트가 실행되어야 합니다.
🇺🇸 원문 (English)
Giskard is an open-source testing framework for AI models. In versions prior to 1.0.2b1, the ConformityCheck class rendered the rule parameter through Jinja2's default Template() constructor, silently interpreting template expressions at runtime. If check definitions are loaded from an untrusted source, a crafted rule string could achieve arbitrary code execution. Exploitation requires write access to a check definition and subsequent execution of the test suite. This issue has been fixed in giskard-checks version 1.0.2b1.
📍 영향받는 시스템
giskard-checks 1.0.2b1 미만 버전
⚔️ 공격 벡터
조작된 체크 정의 파일(rule 문자열)에 Jinja2 템플릿 인젝션 페이로드를 삽입한 뒤 테스트 스위트를 실행하여 코드 실행
🛡️ 대응 방법
giskard-checks를 1.0.2b1 이상으로 업그레이드하고 신뢰할 수 없는 체크 정의 파일 사용을 피하세요
🔧 검증 코드
출력된 버전이 1.0.2b1 미만이면 취약하며, 1.0.2b1 이상이면 패치가 적용된 것입니다.
pip show giskard-checks 2>/dev/null | grep -i '^version'