GPU서버 구매

1. 사업 개요

연세대학교의료원 산학협력단이 고성능 GPU 서버를 1대 구매해, 대용량 이미지·환자 기록·오디오 데이터를 전처리하고, 멀티모달(텍스트·이미지·음성) LLM Foundation Model 및 LoRA 학습·운용을 지원함으로써 Cloud SaaS 서비스(CI/CD, MLOps)와 연동되는 실시간 AI 추론·연구 환경을 구축하고자 합니다.

2. 주요 자격요건

• 국내 물품 우선 – 원산지 대한민국·미국 제품이어야 함(※국내 물품(O) 체크).
• GPU 메모리 ≥ 96 GB – Blackwell 2.0 구조 GPU(또는 동등한 사양) 4개 이상 장착 가능한 슬롯 제공.
• CPU – 24 물리코어 / 48 논리코어 이상(예: Intel Xeon Silver 4510 2 대).
• RAM – 256 GB 이상(예: DDR5‑38400R 64 GB × 4).
• 스토리지 – 홈 디렉터리용 SSD ≥ 3.5 TB, 부팅용 SSD ≥ 800 GB.
• OS – Ubuntu 22.04 LTS 이상(업데이트 가능).
• 전원 공급 – 2× 2700 W Redundant Power Supply, Titanium 레벨 이상.
• 무상보증 – 최소 3 년.
• 소프트웨어 – Docker 기반 컨테이너 관리·모니터링·자동 환경 설정·리소스 회수 기능 포함.
• AI 지원 – Ollama LLM 구동, 수천 편 논문을 초단위로 검색·분석하는 RAG 시스템, 논문 기반 인용 답변 제공, 비코더용 웹 UI.
• 멀티모달 학습 – 텍스트·이미지·음성 데이터를 동시에 다루는 모델 학습·운용 가능.

3. 핵심 기술/물품 요구사항

• GPU: 96 GB 이상 메모리, Blackwell 2.0(또는 동등한 최신) 구조, 최소 4 GPU 소켓 지원.
• CPU: 24 물리코어 / 48 논리코어 이상 (예: Intel Xeon Silver 4510 2 대).
• RAM: 256 GB 이상 (DDR5‑4800 ECC Registered 64 GB × 4).
• 스토리지:
  • 데이터 저장용 SSD ≥ 3.5 TB
  • 부팅용 SSD ≥ 800 GB
• OS: Ubuntu 22.04 LTS 이상(가능하면 최신 LTS).
• 전원: 2 × 2700 W Redundant Power Supply, Titanium 레벨.
• 소프트웨어:
  • Docker 기반 컨테이너 배포·모니터링
  • 실시간 상태 수집·자동 환경 설정 스크립트
  • 작업 종료 시 자동 컨테이너 회수·리소스 관리
  • Ollama LLM 지원, RAG 시스템, 논문 인용 기반 추론, 웹 UI.
• 보증: 무상보증 3 년 이상.

4. 주의사항

• 수량: 1대(단일 구매)임을 명시하고, 동일 사양의 복수 구매는 별도 협의 필요.
• 기존 서버 점검: 현재 보유 서버 2대(Env mirroring) 의 OS 및 패키지 의존성 확인만 요구되며, 유지보수·교체·mounting 작업은 포함되지 않음.
• 요구 스펙 일치: 연구책임자가 원래 구매하려던 모델과 정확히 일치해야 하며, 사양 변동 시 사전 승인 필요.
• 원산지·보증: 국내 물품 우선이며, 보증 기간이 3 년 미만이거나 보증이 없을 경우 제안서 제외 가능.
• 소프트웨어 호환성: 제안된 컨테이너·Docker·모니터링·Ollama·RAG 등 전체 스택이 Ubuntu 22.04 LTS 이상에서 정상 동작함을 증명해야 함(테스트 결과 또는 인증 서류 필요).
• 전력·전압: 2× 2700 W Titanium 전원 공급이 반드시 탑재돼야 하며, 전력 효율 및 냉각 설계도 검토 대상.
• 멀티모달 데이터 처리: 이미지·오디오·텍스트를 동시에 입출력·학습할 수 있는 I/O 및 GPU 메모리 여유가 실제 구현 가능한지 검증 필요.

위 항목을 모두 충족하는 제안서(견적서·납품일정·A/S 플랜 포함)를 제출해야 입찰에 참여할 수 있습니다.