GPU서버 구매

1. 사업 개요

연세대학교의료원 산학협력단은 대용량 이미지·환자 기록·오디오 전처리와 멀티모달 LLM(LoRA 기반) 학습·운용을 위한 고성능 GPU 서버를 1대 구매하고자 합니다. 구매 장비는 Ubuntu 기반 컨테이너 환경에서 Ollama·RAG 시스템을 구동하고, 웹 UI로 코딩 지식이 없는 연구자도 논문 검색·AI 질의응답을 수행할 수 있도록 지원해야 하며, SaaS‑형 서비스에 실시간 모델 업로드·운용이 가능한 MLOps/CI‑CD 환경을 제공해야 합니다.

2. 주요 자격요건

• 수량: 1대 (수량 1구분)
• GPU: 최소 1개, 96 GB 이상 메모리, Blackwell 2.0 기반(예: NVIDIA RTX PRO 6000 MAX‑Q 96 GB) → 4개 이하 소켓 장착 가능
• CPU: 24 물리코어 이상·48 논리코어(예: Intel Xeon Silver 4510 12 Core × 2)
• RAM: 256 GB 이상(예: PC5‑4800 ECC Registered DDR5‑38400R 64 GB × 4)
• 스토리지:
  • 데이터 저장용 SSD ≥ 3.5 TB (Home directory 마운트 포함)
  • 부팅용 SSD ≥ 800 GB
• 전원: 2× 2700 W(1+1) Redundant, Titanium‑Level 전원공급장치
• OS: Ubuntu 22.04 LTS 이상 (설치 가능)
• 소프트웨어: Docker 기반 컨테이너 관리·실시간 모니터링, 자동 네트워크 설정 스크립트, 자동 컨테이너 종료·자원 회수, Ollama LLM 및 RAG 시스템 구축, 논문 기반 출처 제공 AI 추론, 웹‑브라우저 UI(연구자 코딩 불필요)
• A/S: 무상 보증 3년 이상
• 원산지: 국내·국외 모두 허용(대한민국·미국)
• 환경 일치 검증: 기존 서버 2대(OS 종류·패키지 의존성) 확인 가능(점검 범위: OS·dependency만, 유지보수·교체·mounting 제외)

3. 핵심 기술/물품 요구사항

• GPU – 96 GB 이상 메모리, Blackwell 2.0 구조, 4개 이하 GPU 슬롯 지원
• CPU – 24 물리코어·48 논리코어, Intel Xeon Silver 4510 (12 Core × 2) 등
• RAM – 256 GB DDR5 ECC Registered, 64 GB 모듈 × 4
• 스토리지 – 3.5 TB + 데이터 SSD, 800 GB + 부팅 SSD
• 전원 – 2× 2700 W Redundant, Titanium 레벨
• OS – Ubuntu 22.04 LTS 이상 (설치/업그레이드 지원)
• 컨테이너·모니터링 – Docker 기반, 실시간 상태 수집·모니터링, 자동 네트워크 설정 스크립트, 자동 컨테이너 종료·자원 회수
• AI/ML – Ollama LLM·RAG 시스템, 논문 기반 출처 제공 추론, 멀티모달(텍스트·이미지·음성) 학습 지원
• UI – 웹 브라우저 기반, 코딩 없이 논문 검색·RAG 생성·AI 질의응답 가능
• 보증·A/S – 무상 보증 3년 이상

4. 주의사항

• 보증 기간: 무상 보증 3년 이상을 반드시 계약서에 명시해야 함.
• 환경 일치: 기존 서버 2대와 OS 종류·패키지 의존성만 확인(점검 범위 제한). 유지보수·교체·mounting은 포함되지 않음.
• 멀티모달 요구: 텍스트·이미지·음성 데이터를 동시에 학습·운용할 수 있는 GPU·소프트웨어 환경 필요.
• SaaS 연동: 모델을 실시간 서비스에 업로드·운용할 수 있는 MLOps/CI‑CD 파이프라인 구축이 가능해야 함.
• 컨테이너 자동화: 컨테이너 생성·모니터링·종료·자원 회수 자동화 스크립트와 실시간 모니터링 시스템 제공 필수.
• 원산지 허용: 국내·외 모두 가능하지만, 명시된 GPU·CPU·전원 등 주요 부품은 사양에 정확히 부합해야 함.
• 제안서: 연구책임자가 원래 의도했던 모델 사양(예: NVIDIA RTX PRO 6000 MAX‑Q 96 GB)과 동일하게 제시·검증 가능해야 함.
• 가격·납품: 1대 구매이므로 전체 시스템(하드웨어·소프트웨어·OS·A/S) 포함 비용을 정확히 산정하고, 납품 시 OS 및 기본 소프트웨어 설치 상태를 확인받을 것.