본문 바로가기

pup

명령줄에서 HTML 파싱

한줄평

셸에서 HTML 을 간단히 긁어 가공해야 할 때 배우기 쉽고 유용한 도구입니다. 다만 자바스크립트로 그려지는 동적 페이지는 다루지 못하고, 복잡한 스크래핑에는 전용 라이브러리가 낫습니다.

이런 분께 셸에서 HTML 을 간단히 긁어 가공하려는 개발자께

좋은 점

  • CSS 선택자로 HTML 을 직관적으로 추출
  • 파이프라인·셸 스크립트에 자연스럽게 결합

아쉬운 점

  • 자바스크립트로 렌더링되는 동적 페이지는 처리 불가
  • 복잡한 스크래핑에는 전용 라이브러리가 더 적합

소개

명령줄에서 HTML 을 CSS 선택자로 파싱해 원하는 부분만 뽑아내는 도구입니다. curl 로 받은 웹 페이지를 파이프로 넘기면, jq 가 JSON 을 다루듯 pup 이 HTML 요소·속성·텍스트를 선택해 추출합니다. 웹 스크래핑이나 셸 스크립트 자동화에서 HTML 을 가공할 때 가볍게 쓰기 좋습니다. GUI 없이 파이프라인의 한 단계로 동작합니다.

제작사

영삼넷 · 공식 홈페이지