3계층형 시스템(3 Tier System)

단순히 기능을 개발하는 것을 넘어 데이터의 흐름과 시스템의 동작을 이해하고 싶어 인프라 공부를 시작합니다.
정리된 내용은 “그림으로 공부하는 IT 인프라 구조”를 기반으로 합니다.

3계층형 시스템

3계층 아키텍처는 웹 서버, AP 서버, DB 서버 로 구성되어 있으며, 각 서버는 스위치를 경유하여 연결되어 있다.

모든 서버는 독립된 하나의 컴퓨터와 동일한 구조로 구성되어 있다. 각 서버 내부에 CPU, 메모리, 디스크, NIC/HBA와 같은 하드웨어 부품이 존재하고 이러한 장치를 사용하기 위한 인터페이스로 OS 커널이 존재하고, 그 위에서 여러 프로세스가 실행된다. 각 서버의 CPU와 디스크를 이용하기 위한 프로세스의 요청들을 OS 커널이 제어한다.

웹 서버

HTTP 요청에 대해 적절한 파일이나 콘텐츠를 반환하는 역할

각 PC의 웹 브라우저의 요청에 대한 응답을 반환한다. 주로 정적 콘텐츠는 웹 서버의 디스크에서 조회하여 반환하고, 동적 콘텐츠가 필요할 경우 AP 서버와 통신하여 결과물을 얻는다.

AP 서버 (Application 서버)

동적 컨텐츠에 대한 요청을 처리하는 역할

애플리케이션에서 연산 및 처리할 수 있는 동적인 콘텐츠는 스스로 처리하여 반환하고, 불가능할 경우 DB 서버에 요청하여 결과물을 얻는다.

DB 서버

대형 데이터 저장 창고 역할

대부분의 기업에서는 DB 서버를 이중화한 구조로 구성한다. 따라서 각 DB 서버의 디스크를 사용하기보다는, 외부 저장 장치를 두고 여러 DB 서버가 공유하여 접근/사용하는 경우가 많다.

웹 데이터 흐름

클라이언트의 요청 <-> 웹 서버 <-> AP 서버 <-> DB 서버

클라이언트 PC -> 웹 서버

① 웹 브라우저의 요청이 발생
② 요청한 도메인 이름을 해석
③ 웹 서버가 요청을 접수
④ 웹 서버가 정적 콘텐츠인지 동적 콘텐츠인지 판단
⑤ 콘텐츠의 정적/동적 종류에 따라 디스크/외부 서버의 데이터에 엑세스

웹 브라우저의 요청과 DNS

클라이언트 PC 내부에서도 웹 브라우저가 하나의 프로세스로 실행된다.

OS는 디스크에 존재하는 브라우저 프로그램을 실행할 수 있도록 메모리 일부 공간을 할당해준다. 웹 브라우저에서 버튼을 클릭하는 등의 요청이 발생하면, OS의 시스템 콜이 실행되어 커널을 통해 NIC에 네트워크 통신 요청이 전달된다. 이후 네트워크를 통해 외부 서버인 웹 서버에 질의한다.

웹 브라우저의 요청은 특정 도메인 주소에 접근하는 방식으로 이루어지는데, 이때 문자열 형태의 도메인 주소를 각 서버의 실제 주소인 IP 주소로 해석해야 한다.

가장 먼저 클라이언트 PC OS의 호스트명, IP 주소 변환 테이블을 조회하고, 적절한 변환 주소를 찾지 못하면 외부의 DNS 서버를 조회하여 주소를 변환한다.

웹 서버에서 요청 처리

웹 서버에서는 httpd 프로세스가 HTTP 요청을 처리한다. 이때 요청이 단순히 정적인 콘텐츠로 충분하다면 웹 서버 디스크에 저장된 데이터를 반환한다.

하지만 동적인 콘텐츠를 필요로할 경우 스스로 처리하지 않고 외부 AP 서버에 질의하여 데이터를 받아 처리한다. 자주 갱신되는 내용을 웹 서버 디스크에 파일로 저장하고 관리하는 것 자체가 비효율적이며 병목 현상을 발생시킬 수 있기 때문이다.

웹 서버 -> AP 서버

① AP 서버의 스레드가 웹 서버의 요청을 수신
② 요청한 내용을 스스로 처리할 수 있는지, 혹은 DB 조회가 필요한지 판단
③ DB 접속이 필요할 경우 연결 풀(pool)에 엑세스
④ DB 서버에 요청 전달

AP 서버에서 웹 서버의 요청 수신

웹 서버의 요청은 NIC를 경유하여 OS 커널에 의해 끼어들기 처리됨. 이후 JVM(Java로 된 애플리케이션이 돌아가는 AP 서버라면)이 하나의 프로세스로 동작하고, 내부의 각각의 스레드가 웹 서버가 요청한 데이터를 반환하기 위해 작업을 처리한다.

단순히 애플리케이션이 처리할 수 있는 작업이라면 스스로 연산을 수행하여 데이터를 생성하고 반환한다.

DB 접속

DB에 저장된 내용을 조회하고 처리할 필요가 있다면 DB 연결 풀(pool)에 접속해야 한다. 이러한 요청 역시 OS 시스템 콜을 발생시켜 실행된다. NIC를 통해 DB 서버에 질의가 전달된다.

** DB 접속 요청이 발생하면 그럴 때마다 프로세스가 실행되어야 하고, 각각의 독립된 CPU가 실행되어 부하가 높아지는 문제가 발생한다. 프로세스 생성 부담을 낮추기 위해 미리 프로세스를 실행시켜두고 이를 공유하여 사용하는 것을 풀링(pooling) 이라 함.

DB 서버 이외의 옵션

• 규모가 작고 갱신 빈도가 낮은 데이터의 경우 JVM 내부 캐시로 저장했다가 반환하는 것이 좋음
• 규모가 큰 정적인 데이터의 경우 CDN(Content Delivery Server)라 불리는 데이터 전송 전용 서버를 이용할 수 도 있음

AP 서버 -> DB 서버

① DB 서버의 프로세스가 AP 서버의 요청을 수신
② 캐시가 존재하는지 확인
③ 캐시가 없으면 디스크에 엑세스
④ 디스크에서 반환한 데이터를 캐시로 저장
⑤ AP 서버에 결과를 반환

DB 서버 프로세스

DB 서버의 여러 프로세스가 작업을 처리하되, 각 프로세스가 공통으로 접근 및 사용할 수 있는 공유 메모리 공간(SGA)이 존재한다. 공유 메모리 공간에는 디스크 상의 데이터 캐시, SQL 캐시, 테이블, 인덱스 등이 저장된다. 반면 프로세스별 메모리 공간(PGA)에는 해당 프로세스의 SQL의 소트 영역, 테이블 조인을 위한 메모리 영역 등이 저장된다.

서버 프로세스와 백그라운드 프로세스

AP 서버의 요청을 DB 서버 공유 메모리 공간 내 캐시되어 있는 데이터로 충분히 처리할 수 있다면 이렇게 처리하는 것이 빠르고 좋다. 하지만 데이터가 캐싱되어 있지 않다면 OS의 시스템 콜을 통해 디스크에 접근하여 데이터를 얻어내야 하고, 이렇게 얻은 데이터는 미래를 위해 공유 메모리 공간에 캐싱해둔다. 이러한 역할을 하는 것이 서버 프로세스이다. 요청을 SQL로 받아 해석하거나 데이터에 엑세스하는 프로세스를 말한다.

백그라운드 프로세스는 말 그대로 서버 프로세스와 별개로 비동기적으로 실행되어 메모리의 캐싱 데이터와 디스크의 데이터를 정기적으로 조회하여 관리하고 동기화한다.

AP 서버 -> 웹 서버

① DB 서버에서 수신한 데이터를 AP 서버에서 수신
② AP 서버의 스레드는 부가적인 연산 등을 수행한 뒤 파일 데이터를 생성
③ 파일 데이터 결과를 웹 서버에 반환

AP 서버는 웹 브라우저에서 그대로 확인할 수 있는 파일 형태(HTML, XML, 바이너리 데이터 등)로 모든 처리를 완료하여 웹 서버에 반환한다.

웹 서버 -> 클라이언트 PC

① AP 서버에서 반환한 데이터를 웹 서버에서 수신
② 웹 서버의 프로세스는 AP 서버가 전송한 데이터를 그대로 반환
③ 웹 브라우저에 반환된 데이터가 클라이언트 PC 모니터에 출력

일반적으로 웹 페이지 내부의 각각의 데이터를 위해 요청이 복수로 분할되고, 웹 서버로 여러 요청이 전달된다. 각각의 요청에 대한 응답으로 HTML 파일, 이미지 파일, 데이터 등 다양한 형태의 결과물이 각각 반환된다.

정리

• 프로세스나 스레드가 요청을 받는다.
• 도착한 요청을 파악하여 필요에 따라 별도 서버로 요청을 보낸다.
• 도착한 요청에 대해 응답한다.