Tech AI News - 테카이

AI 용어

34개의 글

AI 슬롭 — '이상하게 허술하다'는 느낌은 왜 생길까

AI가 만든 것 같다는 느낌과 'AI 슬롭'은 다른 말입니다. 2025년 메리엄웹스터 올해의 단어로 뽑힌 이 말이 어디서 왔고, 검증·목적·동의라는 세 가지 기준으로 무엇을 가리키며 무엇을 가리키지 않는지 정리합니다.

AI 용어· 5분

컨텍스트 엔지니어링 — 프롬프트 엔지니어링과 뭐가 다른가

프롬프트 엔지니어링은 지시문 문구 한 줄을 다루지만, 컨텍스트 엔지니어링은 시스템 프롬프트·도구 정의·검색 결과·대화 기록까지 모델이 보는 토큰 전체를 설계하는 더 넓은 작업이다. 두 개념의 경계와 흔히 저지르는 과장을 정리했다.

AI 용어· 7분

20. AI 에이전트에게 로그인을 맡기면 생기는 일 — 자격증명 위임의 경계

AI 에이전트에게 로그인 정보와 2단계 인증 코드까지 넘기면 비밀번호 관리자에게 맡기는 것과는 전혀 다른 위험 등급이 열린다. 에이전트가 탈취되거나 오작동했을 때 피해 범위가 커지는 구조와, 어떤 계정은 맡겨도 되고 어떤 계정은 절대 안 되는지를 실무 기준으로 정리했다.

이건 알고 쓰자· 4분

18. 무료 AI 도구에 올린 코드, 어디로 가는가 — 약관을 볼 것

무료 AI 도구 약관은 흔히 입력 내용을 학습에 쓸 수 있다고 적지만, 유료라고 늘 안전한 것도 아닙니다. OpenAI·Anthropic·Google 사례로 학습 제외와 보안·기밀 유지는 별개 문제이며 약관은 언제든 바뀐다는 점까지 확인해야 하는 이유를 정리했습니다.

이건 알고 쓰자· 6분

하이브리드 서치 — 벡터DB만으로는 왜 부족한가

임베딩 기반 의미 검색은 뜻은 비슷해도 에러 코드나 제품명처럼 정확한 문자열을 놓칠 때가 많습니다. 하이브리드 서치는 BM25 키워드 검색과 벡터 검색을 함께 돌려 이 빈틈을 메우고, RRF 등으로 두 결과를 합치는 구조입니다.

작동 원리· 5분

KV 캐시 — 토큰을 하나씩 생성하는데 왜 매번 느려지지 않는가

LLM이 토큰을 하나씩 만들어도 느려지지 않는 건 어텐션이 과거 토큰의 키·값을 캐시해 재사용하기 때문입니다. 이 캐시는 컨텍스트가 길어지고 동시 요청이 늘수록 모델 가중치보다 더 빨리 GPU 메모리를 잡아먹어, 쿼리는 왜 캐시하지 않는지와 메모리 한계가 어디서 오는지를 짚어봅니다.

작동 원리· 6분

LoRA — 파인튜닝인데 왜 모델 전체를 다시 학습하지 않는가

LoRA는 모델 전체를 다시 학습하는 게 아니라 원본 가중치를 얼려둔 채 층마다 작은 저랭크 행렬 두 개만 학습하는 기법으로, 학습 파라미터는 수천 배 줄어도 GPU 메모리 절감은 그보다 훨씬 작은 이유를 함께 짚어봅니다.

작동 원리· 5분

14. LLM API를 하나만 쓰면 왜 나중에 발목이 잡히는가

하나의 LLM API에 맞춰 프롬프트와 코드를 최적화해두면 가격 변동·모델 폐기·프롬프트 비호환 앞에서 전환 비용이 한꺼번에 터집니다. 호출 경로 통합과 평가셋 유지로 전환 가능성을 열어두는 원칙을 정리했습니다.

이건 알고 쓰자· 5분

13. AI가 짜준 코드, 그대로 회사 제품에 넣어도 되는가

Copilot이 제안한 코드를 그대로 커밋해도 되는지는 재현 빈도가 아니라, 매칭됐을 때 책임이 어떻게 퍼지는가의 구조로 판단해야 합니다. 라이선스 오염 리스크와 소송 현황, 커밋 전 확인할 4가지 원칙을 정리했습니다.

이건 알고 쓰자· 5분