---
title: "12. 슬롭스쿼팅 — AI가 알려준 패키지를 그대로 설치하면 안 되는 이유"
url: https://blog.tyrano.dev/slopsquatting-ai-package-hallucination
lang: ko
site: Tech AI News - 테카이
category: "이건 알고 쓰자"
tags: ["AI","보안","슬롭스쿼팅","공급망 공격","AI 코딩 도구","npm"]
published: 2026-10-26T07:11:26.634Z
updated: 2026-10-26T07:11:26.634Z
sources:
  - https://socket.dev/blog/slopsquatting-how-ai-hallucinations-are-fueling-a-new-class-of-supply-chain-attacks
  - https://arxiv.org/abs/2406.10279
  - https://labs.cloudsecurityalliance.org/research/csa-research-note-slopsquatting-ai-supply-chain-20260419/
  - https://www.endorlabs.com/learn/slopsquatting-when-ai-agents-hallucinate-malicious-packages
  - https://www.itworld.co.kr/article/3962145/ai-환각의-가짜-추천-보안-위협으로-대두.html
---

# 12. 슬롭스쿼팅 — AI가 알려준 패키지를 그대로 설치하면 안 되는 이유

> AI 코딩 도구가 추천한 패키지 이름을 그대로 설치 명령에 복사해 실행하는 습관이 있다면, 그 이름이 실제로 존재하는 패키지인지 한 번도 확인하지 않은 채 코드를 실행하는 셈입니다. 그 이름 자체가 AI가 지어낸 것일 수 있고, 공격자가 그 이름을 먼저 레지스트리에 등록해 악성 코드를 심어 놓았을 수도 있습니다.

---

## 배경 / 왜 지금 이 용어인가

GitHub Copilot, Cursor, Claude Code 같은 AI 코딩 도구는 코드를 작성하면서 필요한 라이브러리(패키지)를 함께 추천합니다. 문제는 이 추천 중 일부가 실제로 존재하지 않는 패키지라는 점입니다. 대규모 언어 모델(LLM)은 "이런 이름의 패키지가 있을 법하다"는 통계적 그럴듯함만으로 이름을 만들어내는데, 이를 **패키지 환각(package hallucination)**이라 부릅니다.

여기서 한 단계 더 나가면 **슬롭스쿼팅(slopsquatting)**이 됩니다. 공격자가 AI가 반복해서 지어내는 가짜 이름을 미리 찾아내 그 이름으로 실제 패키지를 등록하고, 설치 시 실행되는 스크립트에 악성 코드를 심어 두는 공급망 공격입니다. 이 용어는 파이썬 소프트웨어 재단(PSF)의 보안 개발자 세스 라슨이, 사람의 오타를 노리는 기존의 타이포스쿼팅과 구조가 비슷하다는 점에서 처음 만들었습니다. 다만 공격자는 사람의 실수가 아니라 AI의 실수를 기다립니다. 2025년 3월 발표된 연구로 이 현상이 수치로 확인되면서 보안 업계에서 본격적으로 다루기 시작했고, 2026년 들어 실제 악용 사례가 하나둘 보고되고 있습니다.

## 핵심 데이터 & 현황

| 항목 | 수치 | 출처·시점 |
|---|---|---|
| 패키지 환각률 (16개 모델, 57.6만 개 코드 샘플) | 전체 19.7%, 오픈소스 모델 평균 21.7%, 상용 모델 평균 5.2% | USENIX Security 2025, Spracklen 외 연구 |
| 환각 이름의 재현성 | 같은 프롬프트 10회 재실행 시 43%는 매번 동일하게 반복, 58%는 2회 이상 반복 | 같은 연구 |
| 실제 피해 — `unused-imports`(npm) | npm의 보안 보류 조치 후에도 주당 약 233회 다운로드 지속 | CSA 리서치노트, 2026.02 확인 기준 |
| 실제 피해 — `huggingface-cli` | 보안 연구자 Bar Lanyado 발견. Alibaba가 검증 없이 공개 문서에 인용해 3개월간 3만 회 이상 다운로드 | CSA 리서치노트, 2026.04 |
| 실제 피해 — `react-codeshift`(npm) | 보안 연구자 Charlie Eriksen 발견. AI 에이전트가 생성·공유한 스킬을 통해 237개 저장소로 확산 | CSA 리서치노트, 2026.04 |

> 해석: 오픈소스 모델일수록 환각률이 높지만, 상용 모델도 5% 안팎의 오류를 보입니다. 더 중요한 건 반복성입니다. 같은 질문을 반복하면 비슷한 가짜 이름이 자꾸 나오기 때문에, 공격자는 몇 번만 질문을 던져 봐도 등록할 이름을 고를 수 있습니다. 실제 피해 사례 세 건 모두 이 예측 가능성을 이용했습니다.

## 심층 분석

### 1) 슬롭스쿼팅은 정확히 무엇인가

슬롭스쿼팅은 두 단계로 일어납니다. 첫째, AI 코딩 도구가 실제로 없는 패키지 이름을 그럴듯하게 만들어냅니다(패키지 환각). 둘째, 공격자가 그 이름을 npm·PyPI 같은 공개 레지스트리에 먼저 등록하고 설치 스크립트에 악성 코드를 넣습니다(스쿼팅). 개발자나 AI 에이전트가 그 이름을 그대로 설치하면 환경 변수에 저장된 클라우드 키·Git 자격 증명 같은 토큰이 빠져나가거나, 악성 코드가 빌드 결과물·lockfile을 통해 CI/CD 전체로 퍼질 수 있습니다.

### 2) 흔한 오해 — 왜 그렇게 읽게 되나

가장 흔한 오해는 "AI가 알려준 이름이니 어느 정도 검증된 것"이라는 생각입니다. 실제로는 LLM이 패키지가 실존하는지 확인할 방법이 없고, 그저 훈련 데이터에서 자주 본 패턴을 조합해 이름을 만들어낼 뿐입니다. 두 번째 오해는 "오타 검사나 이름 유사도 검사로 걸러진다"는 것입니다. 사람이 타이핑 실수를 한 게 아니라 AI가 처음부터 그 이름을 만들어낸 것이라 철자 검사로는 잡히지 않습니다. 연구에 따르면 환각 패키지 이름의 약 38%는 실제 존재하는 두 패키지의 이름을 섞어 만든 '합성형'이라, 사람이 봐도 그럴듯하게 느껴집니다.

### 3) 실제로 판단하는 기준

AI가 알려준 패키지를 설치하기 전에는 다음을 확인해야 합니다. 레지스트리(npmjs.com, pypi.org)에서 실제로 그 이름이 존재하는지, 등록된 지 얼마나 됐는지, 다운로드 수와 메인테이너 이력이 자연스러운지입니다. 새로 등록됐거나 다운로드 수가 비정상적으로 적은데 유명한 기능을 제공한다고 주장하면 의심해야 합니다. 공식 문서나 GitHub 저장소의 설치 명령과 대조하는 것도 기본입니다. `huggingface-cli` 사례처럼, 신뢰할 만한 곳이 적어 둔 문서라도 AI가 생성한 명령어를 검증 없이 그대로 옮긴 것일 수 있다는 점을 기억해야 합니다.

### 4) AI 에이전트가 사람보다 위험한 이유

사람 개발자는 낯선 패키지 이름을 보면 한 번쯗 검색해보는 경우가 많지만, 코드를 자율적으로 작성하고 바로 `npm install`이나 `pip install`을 실행하는 AI 에이전트는 레지스트리에 이름이 올라와 있다는 사실만으로 그 패키지를 신뢰하고 즉시 설치합니다. `react-codeshift` 사례는 사람이 직접 복사해 설치한 게 아니라, AI가 만들어 공유한 '에이전트 스킬'을 다른 에이전트들이 그대로 실행하면서 저장소 237곳까지 퍼진 경우입니다. 사람의 검토 단계가 아예 빠진 자동화 파이프라인일수록 이 위험이 커집니다.

## 실전 — 슬롭스쿼팅을 피하는 5가지 원칙

1. AI가 알려준 패키지 이름은 설치 전에 레지스트리에서 존재 여부·등록일·다운로드 수·메인테이너 이력을 직접 확인합니다.
2. 최근 30~90일 안에 새로 등록된 패키지는 특히 의심하고, 가능하면 소프트웨어 구성 분석(SCA) 도구로 설치 전 자동 검증합니다.
3. AI 에이전트에 패키지 설치 권한을 줄 때는 허용목록(allowlist)으로 제한하고, 목록에 없는 새 의존성은 사람이 승인하게 합니다.
4. lockfile을 버전 관리에 포함해 CI/CD 파이프라인에서 알려진 정상 해시와 대조합니다.
5. 공식 문서나 튜토리얼에 적힌 설치 명령도 그 문서가 AI 생성 콘텐츠를 그대로 베꼈을 가능성을 염두에 두고, 레지스트리에서 한 번 더 확인합니다.

## 코멘트
