Wayland — X11을 밀어내는 리눅스 디스플레이 서버 세대 교체

리눅스 데스크톱의 화면을 그리는 방식이 조용히, 그러나 되돌릴 수 없는 방향으로 바뀌고 있다. 40년 가까이 리눅스 그래픽의 토대였던 X11(X Window System)이 사실상 유지보수 종료 수순에 들어갔고, 그 자리를 Wayland가 채워가는 중이다. 주요 배포판이 하나둘 기본 세션을 Wayland로 넘기면서, "언젠가"의 이야기였던 전환이 "이미 진행 중인 현실"이 됐다.

핵심은 단순하다. X11은 네트워크 투명성이 중요하던 시대에 설계된 거대한 서버였고, 지금의 고해상도·다중 모니터·가변 주사율·터치 환경에는 구조적으로 맞지 않는다. Wayland는 그 짐을 덜어내고 "컴포지터가 곧 디스플레이 서버"라는 훨씬 단순한 모델을 택했다.

X11은 왜 한계에 부딪혔나

X11의 문제는 버그가 많아서가 아니라, 세상이 바뀌었기 때문이다. X는 "화면을 그리는 서버가 네트워크 너머에 있을 수 있다"는 전제 위에 세워졌다. 원격 터미널에 그래픽을 띄우던 시절엔 혁신이었다. 그러나 오늘날 대부분의 사용자는 자기 노트북 화면을 자기 GPU로 그린다. 그 상황에서 X의 클라이언트-서버 왕복 구조는 순수한 오버헤드다.

더 큰 문제는 보안이었다. X11에서는 어떤 창이든 다른 창의 키 입력을 엿보고, 화면 전체를 캡처하고, 커서 위치를 가로챌 수 있다. 스크린샷 도구가 동작하는 바로 그 원리로 악성 프로그램도 동작한다. 격리라는 개념이 아예 설계에 없었던 것이다.

합성기(컴포지터)의 짐

현대 데스크톱은 이미 모든 창을 GPU에서 합성해 그린다. X11 위에서는 이 합성기가 별도 서버 옆에 얹힌 군더더기처럼 동작했고, 화면 찢김(테어링)과 지연을 잡기 위해 온갖 우회로가 쌓였다. Wayland는 이 관계를 뒤집는다. 합성기가 곧 디스플레이 서버이므로 중간 단계가 사라지고, 프레임은 원자적으로 한 번에 화면에 반영된다.

Wayland가 실제로 바꾸는 것

• 프레임 완전성 — 창의 크기 조절이나 이동 중에도 반쯤 그려진 프레임이 노출되지 않는다. 리사이즈할 때 내용이 깨져 보이던 X 시절의 고질병이 구조적으로 사라진다.
• 모니터별 배율 — 4K 노트북 화면과 옆에 붙인 FHD 외장 모니터에 서로 다른 배율을 자연스럽게 적용한다. X11에서는 이게 늘 어색한 타협이었다.
• 입력 격리 — 앱은 자기 창의 입력만 본다. 전역 단축키나 화면 공유는 별도의 명시적 프로토콜(포털)을 통해서만 열린다.
• 가변 주사율·HDR — 게이밍 모니터의 VRR, 그리고 최근 본격화된 HDR 파이프라인이 X11보다 훨씬 깔끔하게 얹힌다.

전환이 이렇게 오래 걸린 이유

Wayland는 개념적으로 우아하지만, 우아함이 곧 이주의 쉬움을 뜻하진 않는다. 문제는 생태계다. 화면 녹화 도구, 자동화 스크립트, 원격 데스크톱, 색 보정 유틸리티, 접근성 도구—이 모든 것이 X11의 "무엇이든 훔쳐볼 수 있는" 자유에 기대어 만들어졌다. Wayland가 그 자유를 막자, 각 기능마다 안전한 대체 통로(포털, wlroots 확장 프로토콜 등)를 새로 설계하고 앱들이 그걸 채택하기를 기다려야 했다.

구형 앱은 Xwayland라는 호환 레이어 위에서 계속 돌아간다. 사용자는 대개 자기가 X 앱을 쓰는지도 모른 채 Wayland 세션을 쓴다. 이 다리가 있었기에 급격한 단절 없이 넘어올 수 있었다.

남은 마찰들

완벽하진 않다. 일부 상용 GPU 드라이버의 성숙도, 특정 화면 공유 시나리오, 색 관리를 정밀하게 다루는 전문가용 워크플로에서는 아직 X11이 더 매끄러운 경우가 있다. 다만 이 목록은 해마다 짧아지고 있고, 논쟁의 무게중심은 "가야 하나"에서 "무엇이 아직 안 되나"로 옮겨왔다.

이 전환이 의미하는 것

Wayland로의 이동은 단순한 소프트웨어 업데이트가 아니다. 리눅스 데스크톱이 원격 터미널 시대의 유산을 마침내 벗고, 개인용 하드웨어 위에서 안전하고 매끄럽게 돌아가는 현대적 그래픽 스택으로 재정의되는 과정이다. 데스크톱뿐 아니라 자동차 인포테인먼트, 임베디드 키오스크, 모바일 리눅스처럼 X11이 애초에 어울리지 않던 영역에서도 이 단순한 모델이 훨씬 잘 맞는다.

당분간 Xwayland 위에서 X 앱은 계속 살아 있겠지만, 새로 짜는 데스크톱 소프트웨어가 X11을 1순위로 두는 시대는 지났다. 방향은 정해졌고, 남은 건 속도의 문제다.

자주 묻는 질문

Wayland로 바꾸면 지금 쓰던 앱이 안 돌아가나요?

대부분 그대로 돌아갑니다. Wayland를 네이티브로 지원하지 않는 앱은 Xwayland라는 호환 레이어 위에서 자동 실행되므로, 사용자는 차이를 거의 느끼지 못합니다. 다만 화면 녹화·전역 단축키·자동화처럼 시스템 전체를 건드리는 도구는 Wayland용 대체 버전이 필요할 수 있습니다.

X11은 완전히 사라지나요?

당장 사라지지는 않습니다. 서버 접속용 원격 X, 오래된 산업 소프트웨어처럼 X11에 묶인 환경은 상당 기간 남습니다. 그러나 신규 개발과 주요 배포판의 기본값은 이미 Wayland로 넘어갔고, X11은 유지보수 모드로 관리되는 유산 기술로 취급됩니다.

Wayland가 X11보다 정말 빠른가요?

체감 성능은 워크로드에 따라 다르지만, 화면 찢김이 없고 프레임이 원자적으로 반영된다는 점에서 "더 매끄럽다"는 평이 일반적입니다. 순수 처리량보다 지연과 일관성에서 이점이 큽니다. 다만 특정 GPU 드라이버 조합에서는 아직 X11이 더 안정적일 수 있습니다.

게이밍에는 Wayland가 괜찮나요?

가변 주사율(VRR)과 HDR 지원이 성숙하면서 게이밍 환경에서의 평가가 빠르게 좋아지고 있습니다. 다만 일부 안티치트나 오버레이 도구는 Wayland의 격리 모델과 아직 마찰이 있어, 게임에 따라 X11 세션을 병행하는 사용자도 있습니다.