Proxmox 하이퍼바이저 OS를 이용한 홈 서버 구축 [Ep.0

⚠️ 주의사항
본 게시글은 정확한 정보 전달 목적의 글이 아닌 홈 서버 구축 과정을 아카이빙 형태로 정리한 글입니다.

개요

IT와 테크에 관심이 많다 보니 예전부터 홈 서버에 대한 로망이 있었다.
실제로 Synology DS1515+를 운용하고 있었고, Docker로 code-server를 올려보는 등 이것저것 실험도 해봤다.

과거에는 백업용 외장하드에 랜섬웨어가 걸려 데이터가 전부 날아간 적이 있어 그 뒤로 보안과 백업, 개인 스토리지 서버에 대한 관심이 더 커졌고, 이번에는 조금 더 본격적인 홈 서버를 구축해보고 싶다는 생각이 들었다.
그러다 알게 된 것이 Proxmox라는 Type 1 하이퍼바이저 운영체제였다.

하이퍼바이저?

초기에는 하이퍼바이저라는 개념 자체가 다소 생소하게 느껴졌다. 핵심을 요약하자면, 단일 하드웨어 자원을 분할하여 여러 개의 운영체제를 동시에 구동할 수 있게 해주는 기술이다. 평소 메인 PC의 보안 환경을 깨끗하게 유지하기 위해 VMware와 같은 가상 머신 소프트웨어로 별도의 Windows를 띄워 사용하곤 했는데, 이 역시 하이퍼바이저 기술을 활용하는 방식이다.

다만, 운영체제 위에서 구동되는 가상화 소프트웨어는 **‘Type 2 하이퍼바이저’**라고 부른다. VMware, VirtualBox, Parallels Desktop 등이 대표적인 예시다.

그렇다면 이번에 도입한 Type 1 하이퍼바이저 OS인 Proxmox는 무엇이 다를까?

일반적인 컴퓨터 실행 구조와 하이퍼바이저 기반 가상화 구조를 비교하는 설명 이미지. 왼쪽은 컴퓨터 하드웨어 위에 운영 체제가 직접 올라가고 그 위에서 사용자 소프트웨어가 실행되는 구조이며, 하드웨어에는 CPU, RAM, SSD, GPU, 네트워크 등의 자원이 포함되어 있다. 오른쪽은 하드웨어 위에 하이퍼바이저가 먼저 위치하고, CPU·RAM·SSD·GPU·네트워크 등의 자원을 가상화한 뒤 그 위에 운영 체제와 사용자 소프트웨어가 올라가는 구조를 나타낸다.

Type 1 하이퍼바이저 구조를 설명하는 이미지. 아래에는 CPU, RAM, SSD, GPU, 네트워크 등으로 구성된 컴퓨터 하드웨어가 있고, 그 위에서 하이퍼바이저가 하드웨어 자원을 직접 관리한다. 하이퍼바이저 위에는 운영 체제와 사용자 소프트웨어가 올라가는 구조로 표현되어 있으며, 왼쪽에는 운영 체제가 하드웨어 위에 직접 올라가는 일반적인 구조가 비교용으로 함께 표시되어 있다.

이미지 출처: ColorScale YouTube
https://youtu.be/CYsJ7udTcPI?si=ZpFCq-Qh2qRCddGE

위 이미지는 Type 1과 Type 2 하이퍼바이저의 구조적 차이를 명확하게 보여준다.
Type 1 하이퍼바이저는 하이퍼바이저 자체가 운영체제 역할을 수행하여 하드웨어 자원을 직접 제어하므로, Type 2 방식에 비해 오버헤드가 현저히 적고 자원 효율이 뛰어나다.

Proxmox를 선택한 이유

리눅스 기반의 오픈소스 운영체제

Proxmox는 데비안(Debian)을 기반으로 한 오픈소스 운영체제다.
기업용 유료 라이선스가 존재하지만, 개인 사용자는 비구독 리포지토리를 통해 충분히 안정적인 환경을 구축할 수 있다.
홈 서버를 학습과 취미 목적으로 운용하는 입장에서 이는 매우 큰 장점이며, 자연스럽게 리눅스 환경에 익숙해질 수 있는 기회이기도 했다.

WebUI로 관리

리눅스 숙련도가 높지 않은 입장에서 CLI만으로 서버를 관리하는 것은 진입장벽이 높다.
하지만 Proxmox는 설치 후 웹 브라우저를 통해 접속할 수 있다.
가상 머신과 컨테이너 생성은 물론, 스토리지, 네트워크, 스냅샷, 백업까지 시각적인 인터페이스로 처리할 수 있다는 점이 좋았다.

LXC 지원

LXC는 Proxmox를 설치한 뒤에 알게 됐다.
알아보니 LXC 컨테이너는 호스트 운영체제의 커널을 공유하면서, 여러 리눅스 시스템을 비교적 가볍게 실행할 수 있는 기술이었다.
완전한 의미의 VM과는 다르게 100% 격리된 구조는 아니지만, 가장 큰 장점은 굉장히 가볍고 효율적이라는 점이다.
특히 Docker 기반 서비스나 비교적 가벼운 작업을 올릴 때 잘 어울려 보였다.

스냅샷과 백업 기능

가장 원했던 기능은 **“문제가 생겨도 즉시 복구할 수 있는 환경”**이었다.
Proxmox의 스냅샷 기능을 활용하면 특정 시점의 상태를 캡처해 두었다가, 설정 오류나 장애 발생 시 바로 되돌릴 수 있다.
NAS에도 폴더별로 스냅샷 설정을 해뒀는데 랜섬웨어를 겪고 나서는 복구할 수 있는 환경 자체가 굉장히 중요하게 여겨진다.

서버가 될 컴퓨터 선정

유휴 데스크탑

처음에는 사용하지 않던 구형 데스크톱을 활용하여 프로젝트를 시작했다.
사양이 준수하여 서버로 사용하기에 부족함이 없다고 판단했기 때문이다.

PC사양
CPU: Intel Core i7-8700
RAM: DDR4 2666 8GB*4 (32GB)
VGA: NVIDIA GeForce GTX 1060 6GB
SSD: Samsung 970 Evo Plus 500GB
M/B: GIGABYTE B360M AORUS PRO
POWER: MICRONICS 600W (80PLUS)

약 3주 정도 운용해 본 결과 성능은 만족스러웠으나, ‘부피’와 ‘전력 소모’가 걸림돌이 되었다.
미들타워 케이스의 크기가 주는 부담감과 아이들 시 약 50~60W 정도의 전력 소모는 24시간 가동되는 서버로서 장기 운용에 부적합하다고 판단했다.

미니PC

결국 전력 효율과 공간 활용성을 고려하여 미니 PC 도입을 결정했다.
알리익스프레스 세일 기간에 맞춰 GMKtec K12 제품을 구매했다.
비록 RAM과 SSD가 포함되지 않은 베어본 모델이었지만, 기존 게이밍 노트북에서 적출한 부품들을 이식하여 가성비를 높였다.

홈 서버로 사용 중인 GMKtec K12 미니PC

미니 PC 선택 시 가장 만족스러웠던 점은 다음과 같다.

공간 및 전력 효율: 데스크톱 대비 압도적으로 작은 부피를 자랑하며, 아이들 시 전력 소모가 10W 내외로 측정되어 상시 가동에 대한 부담이 현저히 낮아졌다.
성능: i7-8700 대비 CPU 성능(싱글/멀티코어)이 우수하여 다수의 VM과 컨테이너를 구동하기에 쾌적하다.
확장성: 2.5GbE 포트가 2개 탑재되어 있어, 추후 내부망 분리 및 방화벽 구축 시 유연한 대처가 가능하다.
기타: OCuLink 포트를 통한 eGPU 확장 가능성 등 추가 확상포트 구성이 충실하다.

마무리

단순한 호기심에서 시작된 프로젝트였으나, 하드웨어 선정과 하이퍼바이저 도입 과정을 거치며 홈 서버 구성이 시작됐다. 다음 게시글에서는 실제로 Proxmox를 설치하고, 초기 환경을 어떻게 최적화했는지에 대한 내용을 다뤄볼 예정이다.