네트워크(3) – HTTP 응용, 보안 & 로드밸런싱 정리

1. TCP 쓰리 웨이 핸드셰이크: 기본 TCP 연결 설정.
2. TLS 핸드셰이크: 인증과 암호화에 필요한 키 생성 및 교환, 인증서 검증 등이 이루어집니다.

핵심 메시지:

ClientHello: 클라이언트가 지원하는 TLS 버전, 암호 스위트, 클라이언트 난수 등 정보 전달.
ServerHello: 서버가 선택한 TLS 버전, 암호 스위트, 서버 난수 등 정보 전달.
Certificate와 CertificateVerify: 서버의 신뢰성을 보장하기 위해 CA(인증 기관)에서 발급한 인증서를 전송하고 검증.
Finished: 마지막 메시지 교환 후, 이후 통신은 핸드셰이크 과정에서 얻은 키를 기반으로 암호화되어 전송됩니다.

1. 메시지 송수신: 암호화된 데이터를 주고받음.

핸드셰이크의 핵심은 암호화 통신을 위한 키의 생성/교환과 서버의 인증입니다.

현실의 네트워크에서는 클라이언트와 단일 서버가 같은 네트워크 내에 존재하지 않고, 여러 중간 장비와 서버가 존재합니다. 이때 오리진 서버(origin server)는 자원을 생성하고 클라이언트에게 응답을 제공하는 최상위 서버를 의미합니다.

• 프록시(proxy):

• 게이트웨이(gateway) / 리버스 프록시(reverse proxy):

시스템의 가용성(availability)은 전체 사용 시간 중 정상적으로 작동하는 비율을 의미하며, 높은 가용성(예: 99.999% 또는 ‘파이브 나인스’)을 목표로 합니다.
가용성은 다음 수식을 통해 계산됩니다.

가용성 = 업타임 / (업타임 + 다운타임)

• 업타임(uptime): 시스템이나 서비스가 정상적으로 운영되어, 사용자가 문제 없이 접근할 수 있는 시간을 의미합니다. 예를 들어, 웹 서비스가 정상적으로 요청을 처리하는 시간 전체가 업타임입니다.
• 다운타임(downtime): 장애나 유지보수 등으로 인해 서비스가 중단된 시간을 의미합니다. 이 시간 동안 사용자는 서비스를 이용할 수 없게 됩니다.

• 결함 감내 (Fault Tolerance)

• 정의: 시스템 내부의 일부 구성 요소에 장애가 발생해도 전체 서비스가 중단되지 않도록 하는 능력입니다.
• 추가 설명: 결함 감내를 구현하기 위해서는 하드웨어, 소프트웨어, 네트워크 등의 다양한 요소에서 예외 상황을 고려하고, 자동으로 장애를 우회하거나 복구할 수 있는 메커니즘을 포함시켜야 합니다.

• 다중화 (Multiplexing)

• 정의: 동일한 역할을 수행할 수 있는 여러 서버 또는 장비를 병렬로 운영하여, 특정 서버에 장애가 발생해도 다른 서버가 그 역할을 대신하도록 하는 방식입니다.
• 추가 설명: 예를 들어, 웹 서버를 3대 이상으로 구성하여 한 서버에 문제가 생겨도 나머지 서버가 요청을 처리함으로써 전체 시스템의 다운타임을 줄일 수 있습니다.

• 페일오버 (Failover)

• 정의: 장애가 발생한 주 서버 대신 예비 서버가 자동으로 서비스에 투입되어 지속적인 서비스 제공을 보장하는 기능입니다.
• 추가 설명: 페일오버는 보통 다중화와 결합되어 작동합니다. 예비 서버가 실시간 또는 짧은 지연 시간 내에 활성 서버의 역할을 인계받음으로써, 사용자는 거의 느끼지 못할 정도의 서비스 중단만 경험합니다.

과도한 트래픽이 특정 서버에 집중되면 해당 서버의 성능 저하 및 장애로 이어질 수 있으므로, 로드 밸런싱(load balancing)은 전체 시스템의 안정성을 유지하는 데 필수적인 기술입니다.

• 로드 밸런서

• 정의: 클라이언트의 요청을 다중화된 서버들에 고르게 분산시켜 부하를 균등하게 나누어주는 장비나 소프트웨어입니다.
• 추가 설명: 로드 밸런서는 네트워크 상의 중간 계층에 위치하여, 서버의 상태와 부하를 지속적으로 모니터링하고, 실시간으로 최적의 분배 전략을 적용합니다.

• 부하 분산 알고리즘

로드 밸런싱의 효과를 극대화하기 위해 다양한 알고리즘이 사용됩니다.
라운드 로빈 (Round Robin): 순차적으로 서버에 요청을 분배하는 방식으로, 구현이 간단하지만 서버의 성능 차이를 고려하지 않습니다.
최소 연결 (Least Connection): 현재 연결 수가 가장 적은 서버에 우선적으로 요청을 배분하여, 실시간 부하 분산에 효과적입니다.
랜덤 (Random): 요청을 임의의 서버에 배분하는 방식으로, 경우에 따라 부하 분산이 고르게 이루어질 수 있습니다.
IP 해시 (IP Hash): 클라이언트의 IP 주소를 기반으로 특정 서버를 선택하는 방식으로, 세션 유지가 필요한 서비스에 적합합니다.

• 가중치 (Weight)

• 정의: 서버마다 서로 다른 성능을 고려하여, 성능이 우수한 서버에 더 많은 트래픽을 할당하는 방법입니다.
• 추가 설명: 예를 들어, 4대의 서버 중 2대가 다른 서버보다 두 배의 성능을 가진 경우, 성능이 높은 서버에 높은 가중치를 부여하여 그에 따라 더 많은 요청을 처리할 수 있도록 합니다.

• 스케일 업 (수직적 확장, Vertical Scaling)

• 정의: 기존 서버나 하드웨어 부품을 더 높은 성능의 장비로 교체하여 처리 능력을 향상시키는 방식입니다.
• 장점: 설치와 구성이 단순하며, 기존 인프라에 바로 적용할 수 있습니다.
• 단점: 하드웨어의 물리적 한계로 인해 확장성이 제한되며, 고성능 장비의 비용이 상대적으로 높습니다.

• 스케일 아웃 (수평적 확장, Horizontal Scaling)

• 정의: 여러 대의 서버를 추가하여 전체 시스템의 처리 능력을 확장하는 방식입니다.
• 장점: 시스템의 유연성을 극대화할 수 있으며, 단일 서버 장애 시에도 전체 시스템에 미치는 영향을 최소화할 수 있습니다.
• 단점: 서버 간의 데이터 일관성 유지 및 분산 환경 구성에 따른 복잡성이 증가할 수 있습니다.

• 오토스케일링 (Autoscaling)

• 정의: 트래픽 변화나 부하 상황에 따라 시스템 자원을 동적으로 자동 확장하거나 축소하는 기능입니다.
• 추가 설명: 특히 클라우드 환경에서 자주 사용되며, 필요할 때 리소스를 추가하고, 부하가 줄어들면 자원을 줄여 비용 효율성을 극대화할 수 있습니다.

Nginx는 웹 서버뿐 아니라 포워드 프록시와 리버스 프록시의 역할을 수행할 수 있습니다.

upstream backend {
    server 10.10.10.2:80 weight=1;
    server 10.10.10.3:80 weight=2;
    server 10.10.10.4:80 backup;
}
server {
    listen 80;
    server_name localhost;
    location / {
        proxy_pass http://backend;
    }
}

• upstream backend: 로드 밸런싱 대상 서버 그룹을 정의

• server 블록: Nginx가 80번 포트에서 요청을 받고, / 경로에 대해 backend 그룹으로 프록시 전달함.

추가로, 로드 밸런싱 알고리즘을 명시하지 않으면 기본적으로 라운드 로빈 방식으로 동작합니다. 필요에 따라 least_conn, random, ip_hash 등의 알고리즘을 지정할 수도 있습니다.

웹 서비스에서는 웹 서버와 웹 애플리케이션 서버(WAS)가 함께 사용되는 경우가 많습니다.

• 웹 서버: 주로 정적 콘텐츠(HTML, 이미지, 동영상 등)를 응답합니다.
• 웹 애플리케이션 서버: 데이터베이스 조회나 동적 처리가 필요한 동적 콘텐츠를 응답합니다.

또한, 웹 애플리케이션 서버는 미들웨어(middleware)의 역할을 하여, 운영체제와 응용 프로그램 사이를 중개하는 역할을 수행합니다. 자바 기반의 스프링 부트(Spring Boot)를 실행하면, 내부적으로 톰캣이 함께 실행되는 것을 확인할 수 있습니다.

네트워크 통신을 이해할 때 흔히 택배에 비유하는데, 소켓(socket)은 택배 우체통과 같습니다.

• 소켓의 역할:

• 유사점:

• 파일 입출력과 유사하게 소켓은 파일 디스크립터를 통해 식별되고, 읽기/쓰기가 가능합니다.
• 많은 운영체제에서 소켓을 파일처럼 취급하며, IPC(Inter-Process Communication)의 수단으로도 사용됩니다.