Robots 메타 생성기
개발index/noindex/follow/noarchive 등 지시어로 <meta name="robots"> 태그와 X-Robots-Tag 헤더를 조립합니다.
이 페이지에서
Robots 메타 지시어란?#
robots 메타 지시어는 검색엔진 크롤러에게 페이지로 무엇을 해도 되는지 알려 줍니다. 색인할지 말지, 링크를 따라갈지 말지, 캐시 사본을 보관할지, 결과에 스니펫을 보여줄지 등. URL은 공개로 남아야 하지만(스테이징 페이지, 감사 페이지, 법률 PDF) 구글 결과에 나타나서는 안 되거나, 결과 스니펫의 모양을 다듬고 싶을 때 당기는 페이지 수준의 레버입니다.
지시어가 살 수 있는 곳은 두 군데가 있습니다. robots 메타 태그는 페이지의 HTML <head>에 앉아 그 하나의 HTML 문서에 적용됩니다. X-Robots-Tag HTTP 헤더는 응답 자체를 타고 흘러가 서버가 반환하는 모든 것 — PDF, 이미지, 비디오, JSON 파일 — 에 적용됩니다. 심지어 태그를 넣을 <head>가 없는 리소스까지. 검색엔진은 둘 다 존중합니다. 이 도구는 같은 토글 집합에서 두 형태를 생성하여 스택이 필요한 어느 쪽이든 복사할 수 있게 합니다.
기억할 가장 중요한 단일 규칙: 지시어의 부재는 “제한 없음”을 의미합니다. robots 태그가 전혀 없는 페이지는 index, follow로 취급됩니다. 즉 완전히 크롤 가능합니다. 이 도구가 내보내는 지시어는 모두 그 기본값 위의 옵트인 제한입니다. 구글의 참조가 표준 집합을 정의하며, 그것이 바로 여기 토글이 대응하는 것입니다.
사용 방법#
- 왼쪽의 옵션 체크박스를 표시합니다. 처음 두 개는 특수합니다. 기본적으로 체크되어 있습니다.
- 색인 생성 허용 (해제=noindex) / 링크 따라가기 (해제=nofollow) — 해제하면
noindex/nofollow를 내보냅니다. - noarchive (사본 캐시 안 함) — 구글이 “캐시” 링크를 보여주지 않게 합니다.
- nosnippet (텍스트/동영상 스니펫 없음) — 결과 아래의 텍스트 스니펫을 억제합니다.
- noimageindex (이미지 색인 금지) — 이 페이지의 이미지가 참조 페이지로 색인되지 않게 합니다.
- notranslate (번역 안 함) — 결과의 “이 페이지 번역” 제안을 거절합니다.
- noodp — 레거시. 사용 중단된 DMOZ/ODP 제목을 무시합니다.
- nositelinkssearchbox — 사이트 링크 검색창을 억제합니다.
- 색인 생성 허용 (해제=noindex) / 링크 따라가기 (해제=nofollow) — 해제하면
- 선택적으로 unavailable_after (날짜) 아래에서 날짜와 시간을 고릅니다. 페이지는 그 순간 이후 검색 결과에서 떨어집니다. 프로모션이나 기간 제한 문서를 만료시킬 때 유용합니다.
- 오른쪽의 두 출력을 읽습니다.
- 메타 태그 —
<head>에 바로 붙여넣을 수 있는 완전한<meta name="robots" content="...">요소. - X-Robots-Tag 헤더 — 서버 또는 CDN 응답 설정에 추가할 수 있는 HTTP 헤더 형태.
- 메타 태그 —
- 어느 출력 옆이든 복사 를 클릭해 가져옵니다.
주요 기능#
- 하나의 소스에서 두 형태. 메타 태그와
X-Robots-Tag헤더가 함께 생성되어 HTML 페이지와 비 HTML 리소스(PDF, 이미지)가 같은 지시어를 받습니다. - 기본값 인식.
index와follow는 체크가 기본값으로, “명시되지 않는 한 제한 없음”이라는 실제 웹 기본값과 일치합니다. - 완전한 표준 지시어 집합. 구글이 문서화하는 모든 지시어를 다룹니다.
noindex,nofollow,noarchive,nosnippet,noimageindex,notranslate,noodp,nositelinkssearchbox,unavailable_after. unavailable_after지원. 값을 받는 유일한 지시어입니다.unavailable_after: <date>로 조립되어 문자 그대로 전달되므로 정확한 형식을 사용자가 제어합니다.- 100% 클라이언트 사이드. 업로드할 설정도, 왕복할 서버도 없습니다. 생성하고 복사한 뒤 CMS, 템플릿 또는 nginx 설정에 직접 적용하세요.
사용 예#
기본값(색인 생성 허용과 링크 따라가기만 체크)으로 두면 두 출력은 다음을 읽습니다.
<meta name="robots" content="index, follow">
X-Robots-Tag: index, follow
이것은 “제한 없음”의 명시적 형태입니다. 페이지가 완전히 크롤 가능함을 의도적으로 밝히고 싶을 때 유용합니다.
이제 색인 생성 허용 을 해제하고(링크 자산은 링크를 통해 흘려보내면서 감사 페이지를 색인에서 빼려면) 출력은 다음이 됩니다.
<meta name="robots" content="noindex, follow">
X-Robots-Tag: noindex, follow
세 번째 케이스: 종료 후 사라져야 하는 계절 캠페인용 랜딩 페이지. 색인 생성 허용과 링크 따라가기를 체크로 두고, unavailable_after 를 캠페인 종료로 설정하면 태그는 다음이 됩니다.
<meta name="robots" content="index, follow, unavailable_after: 2025-12-31T00:00">
구글은 그 타임스탬프 이후 결과에서 페이지를 보여주길 멈출 것입니다. 날짜 값은 선택한 그대로 내보내지므로, 대상 검색엔진이 받아들이는 형식인지 확인하세요.
FAQ#
메타 태그의 noindex와 robots.txt의 disallow의 차이는?#
서로 다른 계층에서 동작하며 함부로 섞어서는 안 됩니다. noindex는 크롤러가 페이지를 패치한 이후 에 읽는 지시어입니다. robots.txt에서 URL을 차단하면 크롤러는 그것을 패치하지 않고, noindex를 보지 못하며, 그것을 가리키는 링크에 기반해 여전히 URL을 색인할 수 있습니다. 페이지를 색인에서 안정적으로 빼려면 크롤링은 허용하되 noindex를 추가하세요. 크롤러에서 페이지를 완전히 숨기지 마세요.
메타 태그 대신 X-Robots-Tag 헤더를 언제 써야 하나요?#
리소스가 HTML이 아닐 때 언제나 — PDF, 이미지, 비디오, 스프레드시트 — 메타 태그를 넣을 <head> 요소가 없어 헤더만이 유일한 선택입니다. 또한 각 문서를 편집하는 대신 서버 또는 CDN 설정을 통해 많은 파일에 한 규칙을 적용할 때 올바른 선택입니다.
noindex, follow는 여전히 링크 자산을 흘려보내나요?#
네. noindex는 페이지가 결과에 나타나는지를 제어하고, follow는 크롤러가 페이지의 링크를 따라가는지를 제어합니다. noindex, follow는 페이지를 색인에서 빼면서도 페이지의 나가는 링크를 통해 링크 자산이 흐르게 둡니다. 감사 페이지, 내부 검색 결과, 패싯 필터 페이지의 표준 조리법입니다.
그것이 기본값인데 왜 도구는 index, follow를 내보내나요?#
명시적이 유용할 수 있기 때문입니다. 페이지 소스에서 의도를 문서화하고, 더 제한적인 상속 규칙을 덮어쓰며, 일부 팀은 태그의 존재를 페이지가 검토되었다는 신호로 취급합니다. 암묵적 기본값에 의존하고 싶다면 그냥 태그를 빼면 됩니다. 태그를 완전히 생략하는 것이 index, follow와 동등합니다.