1차 공개일 · 8월 18일1차 강의가 모두 공개됩니다
TECH 으로 돌아가기
TECH HACKER NEWS 오늘 7분 읽기 37 READS

657,607개의 링크를 따라가 보니: 웹의 76.7%는 사라졌다

오래된 웹은 어디로 갔을까. 마케도니아 최초의 URL 단축 서비스였던 0.mk가 2009년부터 2014년까지 쌓아둔 링크 데이터베이스 백업을 복원해 2026년 8월에 전수 조사한 결과, 이 질문에 대한 구체적인 숫자가 나왔다. 복원된 657,607건의 링크 가운데 안전하게 크롤링 가능한 655,178건을 실제로 방문해 보니, 76.7%는 더 이상 페이지를 열지 못했다. 세 명이 취미로 만들어 몇 년간 방치했던 서비스가, 결과적으로는 2010년대 초반 한 온라인 커뮤니티가 무엇을 공유했는지 보여주는 대규모 표본이 된 셈이다.

조사 방식은 단순하지만 보수적이다. 크롤러는 최대 5회의 리다이렉트를 따라갔고, 접속 실패는 다른 네트워크에서 한 번 더 재시도했으며, HTTP 2xx와 3xx 응답을 '열림'으로 집계했다. 여기서 중요한 함정은, 살아남았다고 집계된 23.3%조차 실상을 과장한다는 점이다. 로그인 벽, 광고로 가득 찬 파킹 도메인, '이 콘텐츠는 더 이상 제공되지 않습니다'라는 안내 페이지까지 모두 '열림'으로 분류됐기 때문이다. 페이지가 응답한다는 것이 원래 콘텐츠가 보존됐다는 뜻은 아니다.

숫자를 뜯어보면 더 나빠진다

단축 링크 657,607개는 실제로는 494,781개의 서로 다른 목적지 URL을 가리킨다. 같은 주소를 여러 번 단축한 중복이 162,826건이나 되기 때문이다. 중복을 제거하고 고유 URL 기준으로 다시 세어도 78.7%가 열리지 않았다. 실패의 성격도 갈린다. 55.0%는 네트워크 계층에서 아예 연결되지 않았고, 23.7%는 HTTP 오류를 냈다. 가장 흔한 오류는 76,403개 URL에서 나온 404였다. 다만 403이나 429를 반환한 29,663개는 사이트가 자동화된 요청을 차단한 것일 수도 있어, '사라졌다'가 아니라 '열리지 않았다'고 표현하는 편이 정직하다. 도메인 단위로 보면 격차는 더 선명하다. 크롤링 대상 호스트 133,605개 중 단 하나의 URL이라도 열린 곳은 34,827개뿐이고, 나머지 98,778개는 단 하나도 열리지 않았다.

데이터를 해석할 때 원자료의 함정도 조심해야 한다. 2011년에는 한 계정이 pelaphptutorials.com을 가리키는 링크를 83,398개나 만들었다. 이 때문에 2011년 URL 기준 미접속률이 92.5%까지 치솟지만, 해당 호스트를 한 번만 세면 61.7%로 떨어져 2010년, 2012년과 거의 같아진다. 이 배치를 빼면 2011년 기록은 103,053건에서 19,655건으로 줄어든다. 즉 링크 생성량의 연도별 급증이 곧 사용자 성장 곡선은 아니라는 뜻이다. 실무자라면 크롤링·로그 데이터를 다룰 때 이런 단일 대량 유입 계정을 걸러내야 지표가 왜곡되지 않는다는 교훈을 얻을 수 있다.

거대 플랫폼은 버텼고, 작은 웹은 무너졌다

살아남은 이름들은 대체로 거인이다. 유튜브, 위키백과, 구글 계열 서비스는 여전히 응답한다. 반면 개인 블로그, 포럼, 지역 뉴스, 사진 호스팅은 대부분 사라진 쪽에 몰려 있다. 사람들이 페이스북 사진을 직접 CDN 주소로 공유하던 fbcdn.net 링크 789개는 단 하나도 열리지 않았다. 반대로 이미 문을 닫은 PureVolume은 653개 중 633개가, 구글 코드는 754개 중 628개가 응답한다. 서비스는 없어졌지만 도메인만 살아 응답하는 경우다. 마케도니아의 지역 웹은 아예 국가적 기록의 소멸을 보여준다. 2011년 폐국한 A1 텔레비전, 2017년 발행을 멈춘 일간지 우트린스키 베스니크·드네브니크·베스트로 향하던 링크들은 이제 인터넷 아카이브에서나 겨우 읽을 수 있다. 단축 링크가 신문사보다 오래 살아남은 것이다.

이 데이터베이스는 2010년대 인터넷의 박물관처럼 읽힌다. 2009년 7월 14일 새벽 3시 52분에 처음 단축된 링크는 거창한 선언문이 아니라 누군가의 워드프레스 블로그에 있던 CSS 파일이었고, 클릭은 평생 두 번뿐이었다. 이튿날 누군가는 127.0.0.1을 가리키는 localhost를 단축했다. 가장 짧은 링크인 0.mk/1은 63자짜리 도메인을 17년간 가리키며 1만 415회 클릭됐고, 가장 긴 URL은 2012년 코드펜 링크로 쿼리 문자열에 최대치를 시험하는 문구가 반복된 3만 8,753자였다. 특히 뼈아픈 건 다른 단축 서비스를 가리키는 4,478개의 링크다. 2025년 구글이 goo.gl을 종료하면서, 이 링크들은 앞 절반만 살아 있고 중간이 끊긴 사슬이 됐다. 링크 부패의 제곱인 셈이다.

다시 돌아온 이유, 그리고 남는 질문

2014년 당시 0.mk는 호스팅 비용과 운영 인력을 감당하지 못해 문을 닫았다. 끊이지 않는 스팸을 거르려면 더 많은 엔지니어링이 필요했고, 신고 처리에는 사람이 붙어야 했다. 팀이 되살리기로 결심한 배경에는 AI가 개발·스팸 탐지·악용 검토·지원·모니터링의 상당 부분을 대신할 수 있게 됐다는 변화가 있다. 복원된 링크들은 이제 300개 이상의 도시에 있는 엣지 서버에서 응답한다. 이 조사가 한국 실무자에게 주는 메시지는 분명하다. 중앙집중화된 대형 플랫폼은 살아남았지만, 개인과 소규모 커뮤니티가 만든 웹은 흔적도 없이 증발한다는 것이다. 링크가 응답한다는 사실과 콘텐츠가 보존됐다는 사실은 전혀 다르며, 정말 남기고 싶은 기록이라면 단순히 URL을 저장하는 것을 넘어 아카이빙이라는 별도의 안전장치를 마련해야 한다.

SOURCE · HACKER NEWS
원문 전체 보기 → https://0.mk/blog/link-rot
SHARE
NEXT · CHOOSE

변화를 읽었다면,
내가 만들 수익 구조를 고릅니다.

정보를 더 모으는 데서 멈추지 않고, 광고·외주·판매·중개·구독 중 내 상황에 맞는 출발점을 정해보세요.

21가지 수익 구조 살펴보기
처리 중...