클라우드 기본기 · 리전과 가용영역 · 이론

돈으로 살 수 없는 것은 지연 하나

한 줄 요약

클라우드에서 돈으로 살 수 없는 것은 지연 하나다. 나머지는 다 살 수 있고, 그래서 나머지는 계산 문제다.

왜 숫자로 정해야 하나

클라우드 결정은 대개 취향 싸움으로 흐른다. "서울 리전이 낫지 않나", "관리형은 비싸다", "일단 클라우드로 가자" — 근거가 없으니 목소리가 큰 쪽이 이기고, 반년 뒤에는 왜 그렇게 정했는지 아무도 설명하지 못한다.

그런데 이 네 가지 결정에는 전부 계산할 수 있는 근거가 있다.

| 결정 | 무엇으로 정하나 |
|---|---|
| 리전을 어디에 둘까 | 거리에서 나오는 물리 한계 |
| AZ 를 나눌까 | 1ms 를 내고 무엇을 사는가 |
| 관리형을 쓸까 | 사람 시간을 넣은 비교 |
| 무엇을 내가 지킬까 | 내가 설정할 수 있는가 |

숫자로 적어 두면 확인하거나 반박할 수 있고, 그때부터 논의가 앞으로 간다. 아래에서 그 네 개를 하나씩 구한다.

빛보다 빠를 수 없다

서울에서 버지니아까지 약 11,000km. 광섬유 안에서 빛은 약 200,000km/s 다(진공의 2/3, 굴절률 1.5 때문).

편도 55ms · 왕복 110ms

이건 물리 한계다. 인스턴스를 키워도, 돈을 더 내도, 전용선을 깔아도 못 줄인다. 실제로는 경로가 직선이 아니고 장비를 여러 번 지나서 180ms 쯤 나온다.

그리고 이게 왜 중요한가 — 페이지 하나에 API 를 5번 부르면 왕복도 5번이다. 110ms × 5 = 550ms 이고, 그 시간 동안 아무 일도 안 일어난다.

그래서 리전 선택은 취향이 아니라 계산이다. 그리고 왕복 횟수를 줄이는 설계(배치 요청, 캐싱, 엣지)가 인스턴스를 키우는 것보다 훨씬 효과가 크다.

AZ 는 같은 값에 다른 것을 산다

| | 거리 | 왕복 | 무엇을 견디나 |
|---|---|---|---|
| 같은 AZ | 같은 건물 | < 0.5ms | 서버 한 대 |
| AZ 간 | 같은 도시권 | 1ms 안팎 | 건물·전원·냉각 |
| 리전 간 | 대륙 | 수십~수백 ms | 도시·재해 |

AZ 를 나누면 거의 공짜로 건물 장애를 견딘다. 지연이 1ms 늘 뿐이다. 그래서 AZ 분산은 거의 항상 하고, 리전 분산은 필요할 때만 한다.

공동 책임 — 경계를 모르면 둘 다 안 지킨다

판단 기준은 하나다.

> 내가 설정할 수 있는 것은 내 책임이다.

| 내 책임 | 사업자 책임 |
|---|---|
| 버킷 공개 설정 | 하이퍼바이저 패치 |
| IAM 키 관리 | 물리 출입 통제 |
| OS 보안 업데이트 | 전원·냉각 |
| 애플리케이션 취약점 | 관리형 DB 마이너 패치 |
| 백업 설정 | 하드웨어 교체 |

헷갈리는 자리가 하나 있다 — AZ 전원이 나가 인스턴스가 멈춘 것은 사업자 책임이다. 그런데 거기에만 배포한 것은 내 책임이다. 사업자는 AZ 가 죽을 수 있다고 처음부터 말했고, 여러 AZ 를 쓰라고 했다.

사고는 거의 항상 양쪽 다 자기 일이 아니라고 생각한 자리에서 난다.

관리형이 비싸 보이는 이유

인프라 요금만 비교하기 때문이다.

직접 운영  인프라 400$ + 사람 20시간 × 60$ = 1,600$관리형                                        900$

사람 시간이 빠지면 관리형이 두 배 비싸 보이고, 넣으면 700$ 싸다.

사람 시간은 장부에 안 잡힌다. 이미 월급을 주고 있으니 '공짜' 로 느껴진다. 그런데 그 시간은 대개 밤에, 사고가 났을 때 들고, 그 사람이 그동안 다른 일을 못 한다.

손익분기는 이렇게 나온다.

(900 - 400) / 60 = 8.3시간

한 달에 8시간 미만이면 직접이 싸다. 백업 확인, 패치, 모니터링, 용량 점검, 그리고 한 번의 장애 대응까지 8시간 안에 되는가? 대개 안 된다.

클라우드가 답이 아닐 때

"클라우드는 싸다" 가 아니라 "클라우드는 유연하다" 다. 유연성이 필요 없으면 그 값을 낼 이유도 없다.

부하가 일정하고 3년 이상 쓸 대량 컴퓨트 — 자동 확장이 할 일이 없다
데이터를 대량으로 내보내는 워크로드 — 이그레스 요금이 지배한다
데이터 소재지 규제 — 리전이 없으면 못 쓴다
특수 하드웨어 — 없으면 못 쓴다

반대로 부하가 들쭉날쭉하거나, 얼마나 필요할지 모르거나, 빨리 시작해야 하면 클라우드가 거의 항상 낫다. 그때 사는 것은 컴퓨트가 아니라 선택을 미룰 권리다.

현장에서 만나는 모습

본사가 미국이라는 이유로 리전을 버지니아에 두었더니 한국 사용자의 페이지 로딩이 1초 가까이 늘었다 — 페이지 하나에 API 를 다섯 번 부르고 있었다.
단일 AZ 에 배포해 두고 AZ 장애가 나자 사업자 탓으로 회고를 끝냈다. 다음 분기에 같은 일이 또 났다.
관리형이 비싸다며 직접 운영을 골랐는데, 그 뒤로 매달 스무 시간이 패치·백업 확인·야간 장애 대응에 들어간다. 그 시간은 어느 장부에도 없다.
버킷을 공개로 열어 둔 유출을 사업자 보안 사고로 보고했다가, 설정 주체가 우리라는 사실을 사후에 확인했다.