OSI 모델, 계층별 설명, 불필요한 내용 제외

대부분의 네트워킹 설명은 OSI 모델을 자격증 시험을 위해 외우고 잊어버릴 차트로 취급한다. 이는 실수다. 실제 문제를 디버깅하기 시작하면, 7계층이 정신적 체크리스트가 된다: 이것이 케이블 문제인가, 라우팅 문제인가, 아니면 애플리케이션 버그인가? 어느 계층을 다루고 있는지 아는 것만으로도 디버깅 시간을 극단적으로 줄인다.

계층 1: physical

이것이 실제 매체다: 구리, 광섬유, 무선파. 전압 레벨, 핀아웃, 커넥터 타입(RJ45, SFP+), 신호 변조가 여기에 있다. 스위치 포트에 "link down"이 표시되거나 케이블 근처에서 누군가 청소기를 돌릴 때와 일치하는 간헐적인 패킷 손실이 발생하면, 계층 1 영역이다. 케이블 테스터나 Linux의 ethtool eth0 같은 도구를 사용하면 더 높은 계층을 디버깅하느라 시간을 낭비하기 전에 링크 상태, 속도, 듀플렉스 설정을 확인할 수 있다.

계층 2: data link

MAC 주소, 스위치, 프레임을 다룬다. Ethernet은 이 계층에서 작동하고, ARP도 마찬가지다(기술적으로는 L2와 L3 사이의 다리). VLAN도 계층 2 구성이다. 호스트가 같은 서브넷의 다른 것에 도달할 수 없지만 직접 연결된 다른 기계로의 핑은 작동하면, arp -a 또는 ip neigh에서 오래된 항목을 확인하고 VLAN 불일치에 대한 스위치 포트 설정을 확인해라. 전형적인 함정: 같은 VLAN에 있지만 MTU 설정이 다른 두 호스트가 이상한 단편화 관련 증상을 야기한다.

계층 3: network

IP 주소, 라우팅, ICMP가 여기에 있다. 여기서 traceroute와 ping이 작동하고, 패킷이 로컬 네트워크를 벗어나고 있는지 진단한다. 라우터는 이 계층에서 목적지 IP를 기반으로 전달 결정을 내린다. ping 8.8.8.8은 작동하지만 ping google.com은 작동하지 않으면, 이는 계층 3 문제가 전혀 아니라 DNS(계층 7)이다. 이것이 장애를 좁혀나갈 때 계층 규칙을 지키는 것이 중요한 이유를 보여주는 좋은 예다.

계층 4: transport

TCP와 UDP. 포트, 순서 정렬, 신뢰성(또는 부재)이 여기에 온다. TCP의 3-way handshake, 재전송 타이머, 윈도우 스케일링이 모두 여기에 있다. curl이 연결 시도에서 멈추면, tcpdump -i eth0 port 443은 SYN 패킷이 SYN-ACK를 받고 있는지 보여준다. 응답이 없다는 것은 대개 방화벽이 트래픽을 명시적으로 거부하는 대신 조용히 버리고 있다는 뜻이다. 이 구분은 사건 보고서를 작성할 때 중요하다.

계층 5: session

이 계층은 평판이 좋지 않다. 실제로는 얇기 때문이다. 많은 현실 스택이 세션 관리를 전송 계층이나 애플리케이션 계층으로 축소한다. TLS 세션 재개와 NetBIOS 세션 같은 것이 교과서 예제다. 현대 아키텍처에서는 다른 어떤 계층보다도 여기에서 시간을 덜 쓸 것이지만, 끊어진 연결이 완전한 재협상 없이 재개될 수 있는 이유를 설명할 때는 개념적으로 여전히 유용하다.

계층 6: presentation

인코딩, 압축, 암호화 포맷이 기술적으로 여기에 속한다. 문자 집합, SSL/TLS 암호화 포맷(세션 설정 자체가 아닌), 데이터 직렬화를 생각해라. 실제로는 대부분의 엔지니어가 경계가 모호하기 때문에 이것을 계층 5나 계층 7로 묶는다. 페이로드의 왜곡된 문자와 끊어진 handshake를 디버깅할 때, 이것이 L6/L7 나눔이다.

계층 7: application

HTTP, DNS, SMTP, SSH — 실제로 코드를 작성하는 프로토콜들이다. 개발자로서 대부분의 일상적인 디버깅은 상태 코드, 헤더, 페이로드를 확인하는 이 계층에서 발생한다. 브라우저 개발자 도구, Postman, curl -v는 모두 이 계층에서 작동한다. API 호출이 실패할 때 네트워크를 먼저 탓하기 쉽지만, 500 응답은 요청이 모든 하위 계층을 통과했다는 뜻이다. 문제는 전적으로 애플리케이션 로직에 있다.

정확히 구현되지 않는 모델을 왜 배우는가

현실의 네트워킹, 특히 TCP/IP는 OSI의 7계층에 완벽하게 매핑되지 않는다. TCP/IP는 자신의 참조 모델에서 4계층을 가진다. 이 불일치는 괜찮다. OSI의 가치는 구현 사양이 아니라 공유 어휘로서다. 동료가 "이것은 계층 2 문제처럼 보인다"고 말하면, 너희 둘 다 DNS 레코드에 대해 논쟁하는 대신 스위치와 VLAN을 확인해야 한다는 것을 즉시 안다. 이것이 시험을 위해 외우는 대신 제대로 배우는 전체 요점이다.

이런 종류의 계층별 분석이 당신에게 도움이 되었다면, Korra Studio의 네트워킹 섹션은 패킷 캡처, 서브넷팅 드릴, 그리고 이 기초 위에 직접 구축되는 방화벽 규칙 문제 해결을 더 깊이 다룬다.