오늘 배운 단어 - VRAM·VLM

LLM 추론 서버 사양을 공부하며 정리한 용어.

• VRAM (Video Random Access Memory): GPU에 붙어 있는 전용 메모리. LLM은 모델 가중치를 통째로 VRAM에 올려야 하므로, VRAM 용량이 곧 구동 가능한 모델 파라미터 수의 상한이 됨. 추론 서버 견적을 GPU 등급이 아니라 VRAM 기준으로 비교하는 이유
• VLM (Vision-Language Model): 텍스트와 함께 이미지를 입력으로 받는 모델. 화면 캡처·로그 스크린샷을 그대로 읽히려면 필요하지만, 같은 VRAM에서 텍스트 전용 모델보다 훨씬 작은 크기까지만 올릴 수 있음