12. 슬롭스쿼팅 — AI가 알려준 패키지를 그대로 설치하면 안 되는 이유
목차
AI 코딩 도구가 추천한 패키지 이름을 그대로 설치 명령에 복사해 실행하는 습관이 있다면, 그 이름이 실제로 존재하는 패키지인지 한 번도 확인하지 않은 채 코드를 실행하는 셈입니다. 그 이름 자체가 AI가 지어낸 것일 수 있고, 공격자가 그 이름을 먼저 레지스트리에 등록해 악성 코드를 심어 놓았을 수도 있습니다.
배경 / 왜 지금 이 용어인가
GitHub Copilot, Cursor, Claude Code 같은 AI 코딩 도구는 코드를 작성하면서 필요한 라이브러리(패키지)를 함께 추천합니다. 문제는 이 추천 중 일부가 실제로 존재하지 않는 패키지라는 점입니다. 대규모 언어 모델(LLM)은 "이런 이름의 패키지가 있을 법하다"는 통계적 그럴듯함만으로 이름을 만들어내는데, 이를 **패키지 환각(package hallucination)**이라 부릅니다.
여기서 한 단계 더 나가면 **슬롭스쿼팅(slopsquatting)**이 됩니다. 공격자가 AI가 반복해서 지어내는 가짜 이름을 미리 찾아내 그 이름으로 실제 패키지를 등록하고, 설치 시 실행되는 스크립트에 악성 코드를 심어 두는 공급망 공격입니다. 이 용어는 파이썬 소프트웨어 재단(PSF)의 보안 개발자 세스 라슨이, 사람의 오타를 노리는 기존의 타이포스쿼팅과 구조가 비슷하다는 점에서 처음 만들었습니다. 다만 공격자는 사람의 실수가 아니라 AI의 실수를 기다립니다. 2025년 3월 발표된 연구로 이 현상이 수치로 확인되면서 보안 업계에서 본격적으로 다루기 시작했고, 2026년 들어 실제 악용 사례가 하나둘 보고되고 있습니다.
핵심 데이터 & 현황
| 항목 | 수치 | 출처·시점 |
|---|---|---|
| 패키지 환각률 (16개 모델, 57.6만 개 코드 샘플) | 전체 19.7%, 오픈소스 모델 평균 21.7%, 상용 모델 평균 5.2% | USENIX Security 2025, Spracklen 외 연구 |
| 환각 이름의 재현성 | 같은 프롬프트 10회 재실행 시 43%는 매번 동일하게 반복, 58%는 2회 이상 반복 | 같은 연구 |
실제 피해 — unused-imports(npm) | npm의 보안 보류 조치 후에도 주당 약 233회 다운로드 지속 | CSA 리서치노트, 2026.02 확인 기준 |
실제 피해 — huggingface-cli | 보안 연구자 Bar Lanyado 발견. Alibaba가 검증 없이 공개 문서에 인용해 3개월간 3만 회 이상 다운로드 | CSA 리서치노트, 2026.04 |
실제 피해 — react-codeshift(npm) | 보안 연구자 Charlie Eriksen 발견. AI 에이전트가 생성·공유한 스킬을 통해 237개 저장소로 확산 | CSA 리서치노트, 2026.04 |
해석: 오픈소스 모델일수록 환각률이 높지만, 상용 모델도 5% 안팎의 오류를 보입니다. 더 중요한 건 반복성입니다. 같은 질문을 반복하면 비슷한 가짜 이름이 자꾸 나오기 때문에, 공격자는 몇 번만 질문을 던져 봐도 등록할 이름을 고를 수 있습니다. 실제 피해 사례 세 건 모두 이 예측 가능성을 이용했습니다.
심층 분석
1) 슬롭스쿼팅은 정확히 무엇인가
슬롭스쿼팅은 두 단계로 일어납니다. 첫째, AI 코딩 도구가 실제로 없는 패키지 이름을 그럴듯하게 만들어냅니다(패키지 환각). 둘째, 공격자가 그 이름을 npm·PyPI 같은 공개 레지스트리에 먼저 등록하고 설치 스크립트에 악성 코드를 넣습니다(스쿼팅). 개발자나 AI 에이전트가 그 이름을 그대로 설치하면 환경 변수에 저장된 클라우드 키·Git 자격 증명 같은 토큰이 빠져나가거나, 악성 코드가 빌드 결과물·lockfile을 통해 CI/CD 전체로 퍼질 수 있습니다.
2) 흔한 오해 — 왜 그렇게 읽게 되나
가장 흔한 오해는 "AI가 알려준 이름이니 어느 정도 검증된 것"이라는 생각입니다. 실제로는 LLM이 패키지가 실존하는지 확인할 방법이 없고, 그저 훈련 데이터에서 자주 본 패턴을 조합해 이름을 만들어낼 뿐입니다. 두 번째 오해는 "오타 검사나 이름 유사도 검사로 걸러진다"는 것입니다. 사람이 타이핑 실수를 한 게 아니라 AI가 처음부터 그 이름을 만들어낸 것이라 철자 검사로는 잡히지 않습니다. 연구에 따르면 환각 패키지 이름의 약 38%는 실제 존재하는 두 패키지의 이름을 섞어 만든 '합성형'이라, 사람이 봐도 그럴듯하게 느껴집니다.
3) 실제로 판단하는 기준
AI가 알려준 패키지를 설치하기 전에는 다음을 확인해야 합니다. 레지스트리(npmjs.com, pypi.org)에서 실제로 그 이름이 존재하는지, 등록된 지 얼마나 됐는지, 다운로드 수와 메인테이너 이력이 자연스러운지입니다. 새로 등록됐거나 다운로드 수가 비정상적으로 적은데 유명한 기능을 제공한다고 주장하면 의심해야 합니다. 공식 문서나 GitHub 저장소의 설치 명령과 대조하는 것도 기본입니다. huggingface-cli 사례처럼, 신뢰할 만한 곳이 적어 둔 문서라도 AI가 생성한 명령어를 검증 없이 그대로 옮긴 것일 수 있다는 점을 기억해야 합니다.
4) AI 에이전트가 사람보다 위험한 이유
사람 개발자는 낯선 패키지 이름을 보면 한 번쯗 검색해보는 경우가 많지만, 코드를 자율적으로 작성하고 바로 npm install이나 pip install을 실행하는 AI 에이전트는 레지스트리에 이름이 올라와 있다는 사실만으로 그 패키지를 신뢰하고 즉시 설치합니다. react-codeshift 사례는 사람이 직접 복사해 설치한 게 아니라, AI가 만들어 공유한 '에이전트 스킬'을 다른 에이전트들이 그대로 실행하면서 저장소 237곳까지 퍼진 경우입니다. 사람의 검토 단계가 아예 빠진 자동화 파이프라인일수록 이 위험이 커집니다.
실전 — 슬롭스쿼팅을 피하는 5가지 원칙
- AI가 알려준 패키지 이름은 설치 전에 레지스트리에서 존재 여부·등록일·다운로드 수·메인테이너 이력을 직접 확인합니다.
- 최근 30~90일 안에 새로 등록된 패키지는 특히 의심하고, 가능하면 소프트웨어 구성 분석(SCA) 도구로 설치 전 자동 검증합니다.
- AI 에이전트에 패키지 설치 권한을 줄 때는 허용목록(allowlist)으로 제한하고, 목록에 없는 새 의존성은 사람이 승인하게 합니다.
- lockfile을 버전 관리에 포함해 CI/CD 파이프라인에서 알려진 정상 해시와 대조합니다.
- 공식 문서나 튜토리얼에 적힌 설치 명령도 그 문서가 AI 생성 콘텐츠를 그대로 베꼈을 가능성을 염두에 두고, 레지스트리에서 한 번 더 확인합니다.
참고 링크
목차
관련 글
11. AI가 지어낸 판례를 그대로 인용하면 생기는 일
변호사들은 AI 환각을 알면서도 왜 반복해서 가짜 판례를 법원에 냈다가 제재를 받을까요. 처벌 기준은 AI를 썼다는 사실이 아니라 결과를 확인하지 않았다는 사실이며, 이 원칙은 학술 논문·언론 기사 인용에도 그대로 적용됩니다.

API — 남의 AI를 내 서비스에 붙인다는 게 정확히 뭘까
API로 AI를 '붙인다'는 말은 모델 자체를 가져오는 게 아니라 매 요청마다 남의 서버에 접속해 답을 받아오는 것이라는 뜻으로, 토큰 요금 구조·속도 제한·API 키 보안까지 실무에서 판단해야 할 기준을 정리했습니다.

벡터 DB — AI 전용 검색 창고
벡터DB는 텍스트·이미지를 숫자 좌표(임베딩)로 바꿔 의미가 비슷한 것을 빠르게 찾아주는 전용 검색 창고입니다. RAG의 핵심 구성 요소지만, 데이터 규모와 지연시간, 검색 목적을 먼저 따져야 도입이 의미가 있습니다.

학습 vs 추론 — AI는 언제 똑똑해지는 걸까
AI와 대화할수록 똑똑해진다고 느끼지만, 실제로 대화 중 새로 배우는 것은 아니다. 학습(training)과 추론(inference)이 어떻게 다르고, 테스트-타임 컴퓨트가 왜 2026년 AI 업계의 새 화두가 됐는지 데이터로 정리했다.