사내 AI 도구, 만들까 살까 — Build vs Buy 기준
목차
사내 AI 도구를 직접 만들지 사다 쓸지는 가격표가 아니라 세 가지 축으로 갈립니다 — 요구사항이 얼마나 표준적인지, 얼마나 빨리 얼마나 많이 처리해야 하는지, 그리고 데이터와 규제가 어디까지 허용하는지입니다.
왜 이 질문이 매번 다시 돌아오는가
사내에 AI 챗봇이나 에이전트가 필요하다는 이야기가 나오면 거의 항상 "SaaS를 쓸까, 우리가 만들까"로 흘러갑니다. 생성형 AI API 가격이 내려가고 로우코드 도구와 AI 코딩 어시스턴트가 보편화되면서, 과거라면 외주나 SaaS로 해결했을 일을 사내 개발팀이 며칠 만에 프로토타입으로 띄우는 일이 흔해졌습니다. 동시에 시중에는 같은 문제를 푸는 SaaS가 수십 개씩 쏟아져 나옵니다.
문제는 이 결정이 한 번으로 끝나지 않는다는 점입니다. 고객 응대 챗봇을 만들 때, 사내 문서 검색 에이전트를 붙일 때, 영업 리포트를 자동 작성할 때마다 같은 질문이 반복됩니다. 그때마다 "일단 익숙한 벤더로" 또는 "일단 우리 팀이 만들 수 있으니까"로 결정하면, 몇 년 뒤 유지보수 부담이 큰 자체 시스템과 벤더에 종속된 블랙박스가 뒤섞인 상태가 됩니다. 그래서 특정 제품을 비교하기 전에, 매번 같은 기준으로 판단할 수 있는 틀이 필요합니다.
판단 기준은 가격이 아니라 세 가지다
1) 요구사항의 표준성 — 커머디티인가, 차별화 지점인가
가장 먼저 물어야 할 질문은 "이 기능이 우리 회사만의 경쟁력인가, 아니면 누구나 필요로 하는 공통 기능인가"입니다. 고객 응대 1차 분류, 회의록 요약, 일반적인 사내 FAQ 봇처럼 업계 어디서나 똑같이 필요한 기능은 커머디티(범용 상품)에 가깝습니다. 이런 영역은 이미 수많은 SaaS가 경쟁하며 다듬어 온 기능이라, 직접 만들어도 벤더 제품보다 나은 결과물이 나오기 어렵습니다.
반대로 우리 회사만 가진 데이터 구조, 고유한 승인 프로세스, 특정 산업 규제에 맞춘 워크플로처럼 "이걸 잘하면 경쟁사 대비 우위가 생기는" 영역은 다릅니다. 범용 SaaS는 이런 특수성을 설정 화면 몇 개로 흉내만 낼 뿐 깊이 들어가지 못합니다. Dataiku는 이런 차이를 두고 에이전트를 아무 데나 붙이면 "에이전트 산재(agent sprawl)"만 늘어난다고 지적하며, 강력한 조직은 사거나 만들거나 한쪽만 택하지 않고 두 가지를 결합한다고 설명합니다 (Dataiku).
2) 처리량과 타임라인 — 지금 당장, 얼마나 많이 필요한가
두 번째 축은 속도와 규모입니다. 몇 주 안에 결과를 보여줘야 하거나, 처리량이 변동이 커서 미리 설계하기 어려운 경우라면 사는 쪽이 유리합니다. 직접 만든 에이전트를 운영 환경에서 권한 관리·감사 로그·장애 대응까지 갖춰 안정적으로 돌리는 일은 프로토타입을 띄우는 것과 완전히 다른 작업입니다. 컨설팅 자료들은 프로덕션 수준으로 만드는 단계에서 팀들이 흔히 처음 견적의 2~3배를 더 쓴다고 지적합니다.
비용 구조도 참고할 만합니다. 한쪽 업계 자료는 단일 업무용 에이전트는 약 1만 5천 달러 수준이지만, 기업급 멀티 에이전트 시스템은 40만 달러 이상까지 치솟을 수 있다고 추산하고, 다른 자료는 10만~50만 달러 이상을 제시합니다 (Auralis, Lyzr, 모두 2026년 벤더 자료 기준). 수치 자체보다 "초기 견적을 믿지 말라"는 방향이 일관된다는 점이 더 중요합니다. 반대로 처리량이 안정적이고 장기간(2~3년 이상) 같은 기능을 계속 써야 한다면, 초기 투자가 크더라도 자체 구축이 총소유비용(TCO) 면에서 역전되는 시점이 옵니다.
3) 규제와 데이터 제약 — 이 데이터가 회사 밖으로 나가도 되는가
세 번째는 데이터와 규제입니다. 의료·금융·공공 영역처럼 데이터가 특정 리전을 벗어나면 안 되거나, 모델에 입력된 데이터가 어떻게 쓰이는지 계약서 수준으로 증명해야 하는 업종이라면 SaaS 선택지가 애초에 줄어듭니다. 이 경우 자체 호스팅이 가능한 오픈소스 모델이나 사내 인프라 기반 구축이 선택이 아니라 전제 조건이 되기도 합니다. 반대로 이런 제약이 없는 영역이라면 규제는 판단 기준에서 빠지고 앞의 두 축만 남습니다.
실제 기업들은 어떻게 하고 있나
설문 자료들은 방향이 엇갈립니다. 내부 도구 플랫폼 Retool 이 2026년 초 발표한 설문(817명 응답, 자사 고객·빌더 대상이라 "직접 만드는 쪽"에 치우친 표본임을 감안해야 함)에서는 응답 조직의 약 35%가 이미 SaaS 제품 하나 이상을 자체 개발 소프트웨어로 교체했고, 78%는 2026년에 자체 개발 도구를 더 늘릴 계획이라고 답했습니다 (Business Wire). 반면 다른 업계 분석들은 기업의 AI 지출 대부분이 자체 개발보다 구매한 역량 쪽으로 흐르고 있다고 보고해, 같은 시기에도 해석이 갈립니다.
분석: 두 자료가 충돌하는 이유는 "자체 개발"의 정의가 다르기 때문으로 보입니다. Retool 조사는 로우코드로 만든 내부 도구까지 포함하는 반면, AI 지출 통계는 대규모 에이전트 플랫폼 계약 같은 고비용 항목 위주로 집계됩니다. 즉 "가벼운 건 만들고, 무거운 인프라는 산다"는 하이브리드 패턴이 두 통계 뒤에 동시에 숨어 있을 가능성이 큽니다.
실제로 업계 분석 자료는 이미 조사 대상 기업의 47%가 하이브리드 에이전트 모델(공통 기능은 구매, 차별화 워크플로는 자체 구축)을 운영 중이라고 보고합니다 (Kellton).
흔한 함정 — 두 극단 다 실패한다
"일단 사고 보자"의 함정은 생각보다 큽니다. Gartner는 2027년 말까지 에이전트형 AI 프로젝트의 40% 이상이 비용 급증, 불분명한 비즈니스 가치, 미흡한 위험 통제를 이유로 중단될 것으로 전망했습니다. Gartner는 또 시중의 에이전트형 AI 벤더 중 실제로 검증 가능한 역량을 갖춘 곳은 수천 개 중 약 130개뿐이라며, 기존 챗봇이나 RPA 도구를 "에이전트"로 재포장하는 "에이전트 워싱(agent washing)" 현상을 짚었습니다 (Outlook Business). 성급하게 벤더를 고르면 이런 과장 광고에 그대로 노출됩니다.
반대로 "일단 만들고 보자"의 함정도 동일하게 흔합니다. 업계 자료는 에이전트 파일럿의 상당수가 프로덕션까지 가지 못하고 사라진다고 보고하는데, 대부분 운영 단계의 권한 관리·모니터링·장애 대응을 과소평가했기 때문입니다 (Lyzr, 벤더 집계 수치로 과장 가능성 있음). 두 실패 패턴 모두 "가격 비교"에서 결정을 내렸을 때 나타나는 증상입니다.
판단 체크리스트
- 이 기능이 우리 회사만의 경쟁력인가, 업계 공통 기능인가 — 공통 기능이면 사는 쪽으로 기운다.
- 몇 주 안에 결과가 필요한가, 2~3년을 보고 투자할 수 있는가 — 급하면 사고, 장기전이면 만드는 선택지가 열린다.
- 데이터가 특정 리전·망을 벗어나면 안 되는 규제가 있는가 — 있다면 선택지가 자체 호스팅 쪽으로 좁혀진다.
- 세 질문 중 둘 이상이 "만들기" 쪽을 가리킬 때만 자체 구축을 본격 검토한다. 하나만 해당하면 우선 사서 쓰며 데이터를 모으고, 필요가 뚜렷해진 뒤 전환하는 편이 안전하다.
결론 — 커머디티는 사고, 경쟁력은 만든다
세 가지 축을 겹쳐 보면 결론은 단순해집니다. 요구사항이 표준적이고, 처리량이 변동적이며, 데이터 제약이 없다면 사는 쪽이 거의 항상 유리합니다. 반대로 우리 회사만의 워크플로이고, 장기간 안정적으로 쌓아갈 수 있으며, 데이터를 외부로 내보낼 수 없다면 만드는 쪽이 맞습니다. 그리고 대부분의 조직은 이 둘을 한 번에 결정하는 게 아니라, 기능 단위로 나눠 공통 기반은 구매하고 차별화 지점만 자체 구축하는 하이브리드로 수렴하고 있습니다. 특정 벤더나 가격표를 비교하기 전에, 지금 앞에 놓인 요청이 이 세 질문 중 어디에 해당하는지부터 분류하는 것이 먼저입니다.
참고 링크
목차
관련 글
사내 AI 챗봇, RAG냐 파인튜닝이냐 — 선택 기준
사내 문서를 AI에 학습시키려 할 때 RAG와 파인튜닝 중 무엇을 먼저 시도해야 할지 헷갈리기 쉽다. RAG는 지식을 바꾸고 파인튜닝은 행동과 톤을 바꾼다는 역할 구분을 기준으로, 데이터 변동성과 목적에 따라 고르는 법을 정리한다.
AI 코딩 에이전트, 로컬 vs 클라우드 선택 기준
AI 코딩 에이전트를 로컬로 쓸지 클라우드로 쓸지는 성능 비교가 아니라 데이터 민감도, 네트워크 환경, 동시 처리량, 최신 모델 접근성이라는 구조적 기준으로 갈립니다. 네 가지 비교축과 하이브리드 운영 사례를 정리했습니다.
AI 디자인 도구, 디자이너를 대체하는가 보조하는가 — 판단 기준
AI 디자인 도구 사용이 급증하며 디자이너 대체 논쟁이 다시 불붙었습니다. 2026년 설문·리서치 데이터를 바탕으로 정형화된 템플릿 작업과 맥락·피드백이 필요한 작업을 구분하는 기준으로 실제 위협과 과장을 가려봅니다.
AI 벤치마크 점수, 그대로 믿어도 될까 — 함정 읽는 법
벤더 발표와 제3자 실측 점수가 엇갈리고, 같은 모델도 리더보드마다 순위가 다르게 나옵니다. 측정 주체·점수 격차 크기·데이터 오염·벤치마크 포화라는 네 가지 함정을 짚고, 발표를 가려 읽는 체크리스트를 정리했습니다.