SSL의 구체적인 동작방법

1. SSL의 구체적인 동작방법

컴퓨터와 컴퓨터가 네트워크를 이용해서 통신을 할 때는 내부적으로 3가지 단계가 있다. 

악수 -> 전송 -> 세션종료

이것은 사용자에게 노출되지는 않는다. 이 과정에서 SSL이 어떻게 데이

터를 암호화해서 전달하는지 살펴보자.

1) 악수

악수 (handshake)

실제 데이터를 주고 받기 전에 클라이언트와 서버는 일종의 인사인 Handshake를 한다. 이 과정

을 통해서 서로 상대방이 존재하는지, 또 상대방과 데이터를 주고 받기 위해서는 어떤 방법을 사

용해야하는지를 파악한다.(서버와 클라이언트가 버젼이 제각각 다르다. 악수를 통해 서버와 클라이언트는 서로 탐색한다)

SSL 방식을 이용해서 통신을 하는 브라우저와 서버 역시 핸드쉐이크를 하는데,

클라이언트는 서버측으로 정보를 전송하는데, 암호화 기법도 서버로 전송한다. 왜냐하면 SSL통신

을 하기위해 암호화 기법은 여러가지이기 때문이다.

그리고 서버의 인증서를 클라이언트에게 전송한다. 이 인증서에는 앞서 말했지만 서버측 

공개키와 암호화 기법이 들어 있다. 

구체적인 악수의 진행과정을 살펴보자

1. 클라이언트가 서버에 접속한다. 이 단계를 Client Hello라고 한다. 

이 단계에서 주고 받는 정보는 아래와 같다. 아래는 클라이언트가 서버쪽으로 보내는 것들이다.

- 클라이언트 측에서 생성한 랜덤 데이터 : 아래 3번 과정 참조

- 클라이언트가 지원하는 암호화 방식들 : 클라이언트와 서버가 지원하는 암호화 방식이 서로 다

를 수 있기 때문에 상호간에 어떤 암호화 방식을 사용할 것인지에 대한 협상을 해야 한다. 이 협

상을 위해서 클라이언트 측에서는 자신이 사용할 수 있는 암호화 방식들을 전송한다.

- 세션 아이디 : 이미 SSL 핸드쉐이킹을 했다면 비용과 시간을 절약하기 위해서 기존의 세션을 재

활용하게 되는데 이 때 사용할 연결에 대한 식별자를 서버 측으로 전송한다.

2. 서버는 Client Hello에 대한 응답으로 Server Hello를 하게 된다. 

  이 단계에서 주고 받는 정보는 아래와 같다. 

- 서버 측에서 생성한 랜덤 데이터 : 아래 3번 과정 참조

- 서버가 선택한 클라이언트의 암호화 방식 : 클라이언트가 전달한 암호화 방식 중에서 서버 쪽에

서도 사용할 수 있으면서 가장 안전한 암호화 방식을 선택해서 클라이언트로 전달한다. 이로써 

암호화 방식에 대한 협상이 종료되고 서버와 클라이언트는 이 암호화 방식을 이용해서 정보를 교

환하게 된다. 그리고 서버의 인증서를 전달한다.

3. 클라이언트는 서버의 인증서가 CA에 의해서 발급된 것인지를 확인하기 위해서 클라이언트

에 내장된 CA 리스트를 확인한다. 

CA 리스트에 인증서를 발급한 인증기관이 없다면 사용자에게 경고 메시지를 출력한다. 

반대로 인증서를 발급한 인증기관이 있다면, 인증서가 정말로 CA에 의해서 발급된 것인지를 확인

하기 위해서 클라이언트에 내장된 CA의 공개키를 이용해서 인증서를 복호화한다. 복호화에 성공했

다면 인증서는 틀림없이 CA의 개인키로 암호화된 문서임이 보증된 것이다. 즉 인증기관에 의해 발

급된 인증서임을 알게되는것이다. 그리고 이 인증서를 전송한 서버, 자신이 접속한 서비스가 인증

기관에 의해서 보장된 서비스라는 것을 확신하게 된다. 그리고 이 인증서안에 서버가 전송한 공개

키를 클라이언트는 획득한다. 

클라이언트는 상기 2번을 통해서 받은 서버의 랜덤 데이터와 클라이언트가 생성한 랜덤 데이터

를 조합해서 pre master secret라는 키를 생성한다. 이 키는 뒤에서 살펴볼 세션 단계(실제 데이

터전송 단계)에서 데이터를 주고 받을 때 암호화하기 위해서 키로 사용될 것이다. 이 때 사용할 

암호화 기법은 대칭키이기 때문에 pre master secret 값은 제 3자에게 절대로 노출되어서는 안된

다. 그럼 문제는 이 pre master secret 값을 어떻게 서버에게 전달할 것인가이다. 이 때 사용하는 

방법이 바로 공개키 방식이다. 서버의 공개키로 pre master secret 값을 암호화해서 서버로 전송

하면 서버는 자신의 비공개키로 안전하게 복호화 할 수 있다. 그럼 서버의 공개키는 어떻게 구할 

수 있을까? 서버로부터 받은 인증서 안에 들어있다. 이 서버의 공개키를 이용해서 pre master 

secret 값을 암호화한 후에 서버로 전송하면 안전하게 전송할 수 있다.

 

4. 서버는 클라이언트가 전송한 pre master secret 값을 자신의 비공개키로 복호화한다. 

이로서 서버와 클라이언트가 모두 pre master secret 값을 공유하게 되었다. 그리고 서버와 클라

이언트는 모두 일련의 과정을 거쳐서 pre master secret 값을 master secret 값으로 만든다. 

master secret은 session key를 생성한다.

그리고 세션단계에서 이 session key 값을 이용해서 서버와 클라이언트는 

데이터를 대칭키 방식으로 암호화 한 후에 주고 받는다.

즉 session key가 대칭키방식의 키가되는것이다.

이렇게해서 세션키를 클라이언트와 서버가 모두 공유하게 되었다는 점을 기억하자.

클라이언트와 서버는 핸드쉐이크 단계의 종료를 서로에게 알린다.

2) 전송(세션)

세션은 실제로 서버와 클라이언트가 데이터를 주고 받는 단계이다. 

이 단계에서 핵심은 정보(아이디,패스워드등)를 상대방에게 전송하기 전에 session key 값을 이용

해서 대칭키 방식으로 암호화 한다는 점이다. 암호화된 정보는 상대방에게 전송될 것이고, 상대

방도 세션키 값을 알고 있기 때문에 암호를 복호화 할 수 있다. 그리고 복호화 해서 처리한 결과를 

암호화해서 다시 클라이언트에게 보내고, 클라이언트는 세션키를 이용해 복호화해서, 최종적으로 

사용자에게 보여주는것이다.

그냥 공개키를 사용하면 될 것을 대칭키와 공개키를 조합해서 사용하는 이유는 무엇을까? 그것

은 공개키 방식이 많은 컴퓨터 파워를 사용하기 때문이다. 만약 공개키를 그대로 사용하면 많은 

접속이 몰리는 서버는 매우 큰 비용을 지불해야 할 것이다. 반대로 대칭키는 암호를 푸는 열쇠인 

대칭키를 상대에게 전송해야 하는데, 암호화가 되지 않은 인터넷을 통해서 키를 전송하는 것은 

위험하기 때문이다. 그래서 속도는 느리지만 데이터를 안전하게 주고 받을 수 있는 공개키 방식

으로 대칭키를 암호화하고, 실제 데이터를 주고 받을 때는 대칭키를 이용해서 데이터를 주고 받

는 것이다.

3) 전송(세션)종료

데이터의 전송이 끝나면 SSL 통신이 끝났음을 서로에게 알려준다. 이 때 통신에서 사용한 대칭키

인 세션키를 폐기한다. 그래서 대칭키가 노출되서 다른사람에 의해 해독 된다고 하더라도, 세션의 

수립과 종료는 아주 짧은시간에 일어나기때문에 안전하다.

참고 블로그 : https://wayhome25.github.io/cs/2018/03/11/ssl-https/