AI 슬롭 — '이상하게 허술하다'는 느낌은 왜 생길까
AI가 만든 것 같다는 느낌과 'AI 슬롭'은 다른 말입니다. 2025년 메리엄웹스터 올해의 단어로 뽑힌 이 말이 어디서 왔고, 검증·목적·동의라는 세 가지 기준으로 무엇을 가리키며 무엇을 가리키지 않는지 정리합니다.
AI가 만든 것 같다는 느낌과 'AI 슬롭'은 다른 말입니다. 2025년 메리엄웹스터 올해의 단어로 뽑힌 이 말이 어디서 왔고, 검증·목적·동의라는 세 가지 기준으로 무엇을 가리키며 무엇을 가리키지 않는지 정리합니다.
프롬프트 엔지니어링은 지시문 문구 한 줄을 다루지만, 컨텍스트 엔지니어링은 시스템 프롬프트·도구 정의·검색 결과·대화 기록까지 모델이 보는 토큰 전체를 설계하는 더 넓은 작업이다. 두 개념의 경계와 흔히 저지르는 과장을 정리했다.
AI 에이전트에게 로그인 정보와 2단계 인증 코드까지 넘기면 비밀번호 관리자에게 맡기는 것과는 전혀 다른 위험 등급이 열린다. 에이전트가 탈취되거나 오작동했을 때 피해 범위가 커지는 구조와, 어떤 계정은 맡겨도 되고 어떤 계정은 절대 안 되는지를 실무 기준으로 정리했다.
AI 에이전트의 이메일·결제 사고는 AI가 아니라 배치한 조직의 책임이다. 법인격 없는 AI는 계약 당사자가 될 수 없고, 에어캐나다 판례도 같은 원칙을 확인했다.
무료 AI 도구 약관은 흔히 입력 내용을 학습에 쓸 수 있다고 적지만, 유료라고 늘 안전한 것도 아닙니다. OpenAI·Anthropic·Google 사례로 학습 제외와 보안·기밀 유지는 별개 문제이며 약관은 언제든 바뀐다는 점까지 확인해야 하는 이유를 정리했습니다.
회사 데이터로 AI를 파인튜닝하면 그 데이터가 모델 안에 남아, 질문을 바꿔가며 캐묻는 질의만으로도 다시 꺼내질 수 있습니다. 모델 역전 공격의 원리와 데이터 정제·중복 제거·출력 필터링 같은 현실적인 완화 방법을 정리했습니다.
AI 에이전트가 읽는 문서 안에 사람 눈에는 안 보이는 지시문이 숨어 있다면, 문서 요약이나 분석을 맡기는 순간 파일이 공격자에게 유출되거나 잘못된 판단으로 이어질 수 있습니다. 실제 보고된 사고 사례와 맡기기 전에 확인할 점검 원칙을 정리했습니다.
임베딩 기반 의미 검색은 뜻은 비슷해도 에러 코드나 제품명처럼 정확한 문자열을 놓칠 때가 많습니다. 하이브리드 서치는 BM25 키워드 검색과 벡터 검색을 함께 돌려 이 빈틈을 메우고, RRF 등으로 두 결과를 합치는 구조입니다.
LLM이 토큰을 하나씩 만들어도 느려지지 않는 건 어텐션이 과거 토큰의 키·값을 캐시해 재사용하기 때문입니다. 이 캐시는 컨텍스트가 길어지고 동시 요청이 늘수록 모델 가중치보다 더 빨리 GPU 메모리를 잡아먹어, 쿼리는 왜 캐시하지 않는지와 메모리 한계가 어디서 오는지를 짚어봅니다.
MoE(전문가 혼합)는 전체 파라미터와 토큰당 실제로 쓰는 활성 파라미터를 분리하는 구조입니다. 모델이 커져도 계산량이 그만큼 늘지 않는 이유와, 메모리 비용은 여전히 전체 크기를 따른다는 점을 Mixtral·DeepSeek-V3 사례로 정리합니다.
LoRA는 모델 전체를 다시 학습하는 게 아니라 원본 가중치를 얼려둔 채 층마다 작은 저랭크 행렬 두 개만 학습하는 기법으로, 학습 파라미터는 수천 배 줄어도 GPU 메모리 절감은 그보다 훨씬 작은 이유를 함께 짚어봅니다.
AI 에이전트에 메일 발송부터 파일 삭제까지 권한을 넓게 열어주면, 작은 오류 하나가 왜 큰 사고로 번지는지를 블래스트 래디어스와 최소 자율성 개념으로 짚고, 되돌릴 수 없는 작업에 확인 단계를 두는 설계 원칙을 정리했습니다.
하나의 LLM API에 맞춰 프롬프트와 코드를 최적화해두면 가격 변동·모델 폐기·프롬프트 비호환 앞에서 전환 비용이 한꺼번에 터집니다. 호출 경로 통합과 평가셋 유지로 전환 가능성을 열어두는 원칙을 정리했습니다.
Copilot이 제안한 코드를 그대로 커밋해도 되는지는 재현 빈도가 아니라, 매칭됐을 때 책임이 어떻게 퍼지는가의 구조로 판단해야 합니다. 라이선스 오염 리스크와 소송 현황, 커밋 전 확인할 4가지 원칙을 정리했습니다.
AI 코딩 도구가 지어낸 존재하지 않는 패키지 이름을 공격자가 먼저 등록해 악성코드를 심어두는 공급망 공격 '슬롭스쿼팅'의 구조와 실제 피해 사례, 설치 전에 반드시 확인해야 할 원칙 다섯 가지를 한 번에 정리합니다.