PIVOT GPU 테스트 보고서

기준 대비 현재 GPU 실측

항목	MLPerf 공식 기준	선택 LLM 예상치	현재 GPU 실측 · 두 기준 대비
모델 / 조건	일치하는 공식 결과 미등록	Qwen/Qwen3-30B-A3B-Instruct-2507Q8_0 / 4096 context	Qwen/Qwen3-30B-A3B-Instruct-2507Q8_0 / 4096 context
생성 속도 (tok/s)	기준 미등록	58	96.77
MLPerf 대비	공식 제출 ID·모델·시나리오 확인 필요	해당 없음	비교 불가 · 공식 기준 미등록현재 실행은 MLPerf가 아닌 Ollama 프로파일입니다.
LLM 예상치 대비	해당 없음	llmfit 계산값 · 성능 보장 아님	166.84% 수준 · +66.84% 차이 (참고)
GPU 메모리 (GiB)	자료 없음	39.52권장/예상 필요량	30.61측정 중 최대 사용량 · 예상 필요량과 정의가 다름
평균 GPU 전력 (W)	공식 전력 결과 미등록	예상치 미제공	204.77
전력 설정 / 복원	동일 전력 조건 필요	전력 제한을 반영한 예상치 아님	저전력 · 기본 한도 80%GPU 식별자 비공개: 260 → 208 W이전 한도 복원: 확인 완료일반 모드 결과와 동일 조건으로 비교하지 마세요.
에너지 (Wh / 1천 토큰)	공식 전력 결과 미등록	예상치 미제공	0.6
출처 / 판정	MLCommons 공식 결과출처 안내 링크이며 해당 GPU 결과 등록을 뜻하지 않습니다.	backend_constant테스트 요청 당시 저장된 예상치	정상 완료 · 합격/불합격 기준 미설정2026-09-19T01:40:18.362960+00:00

LLM 대비 비율은 계산값과 실측의 참고 차이입니다. 엔진·입력 조건이 다를 수 있어 성능 달성률이나 합격 판정이 아닙니다. MLPerf와 모델·GPU 수·시나리오·지표 정의가 다른 측정의 비율은 계산하지 않습니다.

테스트 환경 모니터링 · 정상 완료

측정을 완료했습니다. 동일 모델·양자화·컨텍스트 예상치와 비교하세요.

실행기·경로: 통과
VM 식별자: 통과
기존 GPU 작업: 통과
전용 포트: 통과
다운로드 여유 공간: 미확인 / 다운로드 시 검사
모델 파일·양자화: 통과
로딩·예열: 통과
저전력 80% 적용: 통과
전력 한도 복원: 통과

완료 추론 24 / 24회 · 온도 중단 87°C · 팬 61% (여러 GPU는 최고값)

종료된 테스트의 기록 · 실시간 값 아님

GPU 최고 온도 78 °C

관측 최고 81 °C

GPU 합산 전력 129.1 W

관측 최고 210.8 W

GPU 최고 사용률 0 %

관측 최고 95 %

GPU 합산 VRAM 31,343 MiB

관측 최고 31,343 MiB

그래프는 모델 로딩·예열·추론 구간입니다. 다운로드 중에는 GPU 그래프를 수집하지 않습니다. 사용률·팬 미지원은 미확인으로 표시합니다. GPU 전력은 서버 전체 전력이 아니며 CPU·흡기 온도는 이 화면의 측정 대상이 아닙니다.

예상치 · 현재 저장된 사이징

작업 당시 예상치가 아닐 수 있습니다. 모델·양자화·컨텍스트가 일치하는 현재 자료만 표시합니다.

측정 조건 및 해석

deployit-text-energy-v1 · 동시 요청 1 · 출력 제한 256 · Thinking OFF · 예열 제외. GPU 보드 전력이며 서버 전체 소비전력이 아닙니다. 모델 로딩 에너지는 포함하지 않습니다. 서로 다른 엔진·모델 파일·입력 조건의 결과를 성능 배수로 단정하지 마세요.

현재 저장된 하드웨어 · 측정 당시 정보와 구분

작업 메시지: 측정을 완료했습니다. 동일 모델·양자화·컨텍스트 예상치와 비교하세요.

예상 생성 속도 (tok/s)	58
예상 산출 방식	backend_constant
사이징 수집 시각	2026-09-18T14:35:55.437101+00:00

GPU	Quadro RTX 8000
GPU 수	1
VRAM (GiB)	45
VM RAM (GiB)	31.34
vCPU	8