20. AI 에이전트에게 로그인을 맡기면 생기는 일 — 자격증명 위임의 경계
AI 에이전트에게 로그인 정보와 2단계 인증 코드까지 넘기면 비밀번호 관리자에게 맡기는 것과는 전혀 다른 위험 등급이 열린다. 에이전트가 탈취되거나 오작동했을 때 피해 범위가 커지는 구조와, 어떤 계정은 맡겨도 되고 어떤 계정은 절대 안 되는지를 실무 기준으로 정리했다.
AI 에이전트에게 로그인 정보와 2단계 인증 코드까지 넘기면 비밀번호 관리자에게 맡기는 것과는 전혀 다른 위험 등급이 열린다. 에이전트가 탈취되거나 오작동했을 때 피해 범위가 커지는 구조와, 어떤 계정은 맡겨도 되고 어떤 계정은 절대 안 되는지를 실무 기준으로 정리했다.
AI 에이전트의 이메일·결제 사고는 AI가 아니라 배치한 조직의 책임이다. 법인격 없는 AI는 계약 당사자가 될 수 없고, 에어캐나다 판례도 같은 원칙을 확인했다.
무료 AI 도구 약관은 흔히 입력 내용을 학습에 쓸 수 있다고 적지만, 유료라고 늘 안전한 것도 아닙니다. OpenAI·Anthropic·Google 사례로 학습 제외와 보안·기밀 유지는 별개 문제이며 약관은 언제든 바뀐다는 점까지 확인해야 하는 이유를 정리했습니다.
회사 데이터로 AI를 파인튜닝하면 그 데이터가 모델 안에 남아, 질문을 바꿔가며 캐묻는 질의만으로도 다시 꺼내질 수 있습니다. 모델 역전 공격의 원리와 데이터 정제·중복 제거·출력 필터링 같은 현실적인 완화 방법을 정리했습니다.
AI 에이전트가 읽는 문서 안에 사람 눈에는 안 보이는 지시문이 숨어 있다면, 문서 요약이나 분석을 맡기는 순간 파일이 공격자에게 유출되거나 잘못된 판단으로 이어질 수 있습니다. 실제 보고된 사고 사례와 맡기기 전에 확인할 점검 원칙을 정리했습니다.
AI 에이전트에 메일 발송부터 파일 삭제까지 권한을 넓게 열어주면, 작은 오류 하나가 왜 큰 사고로 번지는지를 블래스트 래디어스와 최소 자율성 개념으로 짚고, 되돌릴 수 없는 작업에 확인 단계를 두는 설계 원칙을 정리했습니다.
하나의 LLM API에 맞춰 프롬프트와 코드를 최적화해두면 가격 변동·모델 폐기·프롬프트 비호환 앞에서 전환 비용이 한꺼번에 터집니다. 호출 경로 통합과 평가셋 유지로 전환 가능성을 열어두는 원칙을 정리했습니다.
Copilot이 제안한 코드를 그대로 커밋해도 되는지는 재현 빈도가 아니라, 매칭됐을 때 책임이 어떻게 퍼지는가의 구조로 판단해야 합니다. 라이선스 오염 리스크와 소송 현황, 커밋 전 확인할 4가지 원칙을 정리했습니다.
AI 코딩 도구가 지어낸 존재하지 않는 패키지 이름을 공격자가 먼저 등록해 악성코드를 심어두는 공급망 공격 '슬롭스쿼팅'의 구조와 실제 피해 사례, 설치 전에 반드시 확인해야 할 원칙 다섯 가지를 한 번에 정리합니다.
변호사들은 AI 환각을 알면서도 왜 반복해서 가짜 판례를 법원에 냈다가 제재를 받을까요. 처벌 기준은 AI를 썼다는 사실이 아니라 결과를 확인하지 않았다는 사실이며, 이 원칙은 학술 논문·언론 기사 인용에도 그대로 적용됩니다.
API로 AI를 '붙인다'는 말은 모델 자체를 가져오는 게 아니라 매 요청마다 남의 서버에 접속해 답을 받아오는 것이라는 뜻으로, 토큰 요금 구조·속도 제한·API 키 보안까지 실무에서 판단해야 할 기준을 정리했습니다.

인터넷 연결 없이 스마트폰과 노트북 자체 칩이 AI 연산을 처리하는 온디바이스 AI가 정확히 무엇이고, 클라우드 AI와 어떻게 다르며 어디까지 실용적인지 2026년 최신 칩셋 사양과 시장 데이터를 근거로 정리했습니다.

벤치마크 1위라는 숫자는 시험지를 미리 본 결과일 수도, 내 업무와 무관한 시험일 수도 있습니다. 2026년 SWE-bench 퇴출과 LM Arena 논란을 통해 점수를 읽는 6가지 원칙을 정리합니다.

메타, 알리바바, 심지어 폐쇄 전략의 상징이던 오픈AI까지 최고 성능 모델을 무료로 뿌립니다. 자선이 아닙니다. "보완재를 공짜로 만들어 본진에서 돈을 번다"는 40년 된 실리콘밸리 전략이 AI 시대에 다시 작동하고 있습니다.

모델 이름 뒤에 붙은 B는 성적표가 아니라 설치 사양표에 가깝습니다. 이 숫자를 성능 순위로 읽는 순간, 모델 선택은 거의 반드시 틀립니다.
