Tech AI News - 테카이

LoRA — 파인튜닝인데 왜 모델 전체를 다시 학습하지 않는가

· 5분 읽기

Read this post in English →

"LoRA로 파인튜닝했다"는 말을 들으면 모델을 처음부터 다시 학습시킨 것처럼 들립니다. 실제로는 원본 가중치는 그대로 얼려 두고, 층마다 끼워 넣은 아주 작은 행렬 두 개만 새로 학습합니다. 이 차이를 모르면 "파라미터는 수천 배 줄었다는데 왜 GPU 메모리는 그만큼 안 줄었나" 같은 질문 앞에서 길을 잃기 쉽습니다.


배경 / 왜 지금 이 용어인가

파인튜닝(사전학습된 모델을 특정 과제에 맞게 추가 학습시키는 것) 관련 글이나 도구 설명에는 LoRA(Low-Rank Adaptation, 저랭크 적응)라는 이름이 당연한 전제처럼 등장합니다. Hugging Face의 PEFT(Parameter-Efficient Fine-Tuning, 파라미터 효율적 파인튜닝) 라이브러리가 LoRA를 적용하는 표준 도구로 자리잡으면서, 개인 GPU 한 장으로도 대형 언어모델을 특정 용도에 맞게 조정하는 사례가 늘었습니다(Hugging Face LLM 코스, Hugging Face PEFT 공식 문서).

문제는 "파인튜닝"이라는 단어 자체가 모델 전체를 다시 학습시킨다는 인상을 준다는 점입니다. LoRA는 그 반대에 가깝습니다. 원본 가중치(weight, 모델이 학습한 수치 값들)는 손대지 않고, 층마다 작은 보정용 행렬만 새로 끼워 넣어 학습합니다.

핵심 데이터 & 현황

지표수치출처·시점
GPT-3(175B) 학습 가능 파라미터 감소약 10,000배Hu et al., "LoRA: Low-Rank Adaptation of Large Language Models" 논문, 2021년
GPT-3(175B) GPU 메모리 요구량 감소약 3배위 논문, 2021년
GPT-3 기준 학습 가능 파라미터 추정치약 1,800만 개IBM Think, 2025년 1월
GPT-3 기준 GPU 메모리 절감 추정치약 2/3IBM Think, 2025년 1월
LoRA 랭크(r) 권장 범위4~32 (과제 난이도에 따라)Hugging Face LLM 코스

해석: 파라미터 감소(만 배 단위)와 메모리 감소(3배 안팎) 사이의 격차가 이 기법의 핵심을 보여줍니다. 학습 대상 파라미터는 극적으로 줄어도, 추론과 순전파(forward pass)에는 원본 가중치 전체가 여전히 메모리에 올라가 있어야 하기 때문입니다. 줄어드는 쪽은 옵티마이저 상태와 그래디언트처럼 "학습에만 필요한" 메모리입니다.

심층 분석

1) LoRA는 정확히 무엇인가

보통 파인튜닝은 가중치 행렬 W에 더해질 변화량(ΔW)을 원본과 같은 크기로 통째로 학습합니다. LoRA는 이 ΔW를 더 작은 두 행렬 A와 B의 곱으로 근사합니다. 두 행렬의 폭을 정하는 숫자가 랭크(rank, 보통 r로 표기)로, r이 작을수록 학습해야 할 숫자(파라미터)가 줄어듭니다(Hugging Face PEFT 공식 문서).

학습 중에는 원본 가중치 W를 얼린(freeze) 채로 두고 A, B만 역전파로 업데이트합니다. 초기화 시점에는 B를 0으로 시작해 두 행렬의 곱이 0이 되도록 만드는데, 이는 학습 시작 시점에 원본 모델의 동작을 건드리지 않기 위한 장치입니다(PEFT 공식 문서). 학습이 끝나면 A·B를 원본 W에 합쳐(merge) 하나의 가중치로 만들 수 있어, 추론 시 추가 지연시간이 생기지 않습니다(PEFT 공식 문서).

2) 흔한 오해 — 왜 그렇게 읽게 되나

가장 흔한 오해는 "파인튜닝"이라는 단어 때문에 모델 파라미터 전체가 다시 학습된다고 생각하는 것입니다. 실제로 학습되는 파라미터는 원본의 극히 일부뿐이며, GPT-3 기준으로는 전체 대비 학습 대상이 1만 분의 1 수준으로 줄어듭니다(Hu et al., 2021년 논문).

두 번째 오해는 파라미터가 그만큼 줄었으니 GPU 메모리 사용량도 같은 비율로 줄 것이라는 생각입니다. 앞서 핵심 데이터에서 본 것처럼 메모리 절감은 3배 안팎에 그칩니다. 원본 가중치가 여전히 메모리 위에 올라가 있어야 추론과 그래디언트 계산이 가능하기 때문입니다.

세 번째 오해는 학습이 끝난 LoRA 어댑터(A, B 행렬 묶음)만 있으면 모델이 작동한다고 생각하는 것입니다. 어댑터는 원본 가중치와의 "차이"만 담고 있을 뿐이라, merge하지 않는 한 base 모델과 함께 로드해야만 의미가 있습니다.

3) 실제로 판단하는 기준

LoRA를 적용할 때 가장 먼저 정해야 하는 값이 랭크 r입니다. Hugging Face LLM 코스는 과제 난이도에 따라 보통 4~32 사이에서 고르도록 안내합니다. 낮은 r은 학습 파라미터와 저장 공간을 줄이지만 표현력이 떨어질 수 있고, 높은 r은 표현력을 늘리는 대신 비용이 늘어납니다.

함께 정해야 하는 값이 스케일링 계수인 lora_alpha로, PEFT 공식 문서는 기본값으로 랭크의 2배를 권장합니다. 어느 층에 LoRA를 적용할지(target_modules)도 중요한 선택인데, 트랜스포머에서는 보통 어텐션 프로젝션 층에만 적용해 파라미터 효율을 유지합니다. 적용 범위를 "all-linear"처럼 넓히면 적응력은 올라가지만 그만큼 메모리 사용도 늘어납니다(PEFT 공식 문서).

4) 언제 쓸모 있고 언제 무의미한가

LoRA는 GPU 메모리나 저장 공간이 제한된 환경에서, 하나의 base 모델에 여러 과제·고객용 어댑터를 바꿔 끼우며 서빙해야 하는 상황에 특히 유리합니다. 어댑터 파일 자체가 작아 여러 개를 동시에 보관·배포하기 쉽습니다.

반대로 모델에 완전히 새로운 지식을 대량으로 주입하거나, 모델의 근본적인 동작 방식 자체를 크게 바꿔야 하는 과제라면 저랭크 근사의 표현력 한계가 발목을 잡을 수 있습니다. 공식 문서들은 LoRA 성능이 완전 파인튜닝과 "비슷한 수준"이라고만 설명할 뿐 "항상 같다"고 말하지는 않습니다(PEFT 공식 문서). 분석: 과제가 단순하고 데이터가 적을수록 LoRA의 손실은 작게 나타나는 경향이 있지만, 이는 모델이 이미 과잉 파라미터화되어 있다는 전제에 의존하는 설명이라 모든 과제에 그대로 적용하기는 어렵습니다.

실전 — LoRA를 제대로 읽는 5가지 원칙

  1. "파인튜닝"이라는 말에 속지 마세요. 원본 가중치는 얼어 있고, 실제로 학습되는 건 층마다 끼워 넣은 작은 행렬 두 개뿐입니다.
  2. 파라미터 감소와 메모리 감소를 같은 숫자로 읽지 마세요. 학습 파라미터는 수천~수만 배 줄어도, GPU 메모리 절감은 보통 3배 안팎에 그칩니다. 원본 가중치가 여전히 메모리에 올라가 있어야 하기 때문입니다.
  3. 랭크(r)는 성능과 비용 사이의 조절 지점입니다. 작을수록 가볍지만 표현력이 떨어질 수 있고, 과제가 복잡할수록 더 큰 r이 필요할 수 있습니다.
  4. 어댑터만으로는 모델이 작동하지 않습니다. merge하지 않았다면 배포 시 반드시 base 모델과 함께 로드해야 합니다.
  5. 과제가 모델의 근본적인 지식이나 동작 방식 자체를 바꿔야 한다면 LoRA만으로는 부족할 수 있습니다. 더 큰 랭크나 더 넓은 target_modules, 또는 완전 파인튜닝을 함께 검토하세요.

참고 링크

  • #AI 용어
  • #LoRA
  • #로라
  • #파인튜닝
  • #PEFT
  • #저랭크 적응
작동 원리

파인튜닝 — AI에게 회사를 가르친다는 오해

파인튜닝을 'AI에게 회사 지식을 통째로 가르치는 것'으로 오해하면 비용만 쓰고 최신 정보 반영은 못하는 모델을 얻습니다. LoRA 원리와 RAG·프롬프트 엔지니어링 중 무엇을 먼저 시도해야 하는지 판단 기준을 정리했습니다.

· 5분

작동 원리

RAG — 파인튜닝 안 하고도 최신 정보를 아는 법

RAG(검색증강생성)는 모델 자체를 다시 학습시키는 대신 질문이 들어올 때마다 관련 문서를 찾아 프롬프트에 끼워 넣는 절차로, 지식이 자주 바뀌거나 출처 인용이 필요한 업무에서 파인튜닝보다 유리하지만 환각을 완전히 없애주지는 않는다는 점은 여전히 오해하기 쉽습니다.

· 4분

작동 원리

추론 모델 — 생각하는 AI가 더 비싼 이유

추론 모델은 답하기 전에 생각 토큰을 먼저 생성하는데, 이 토큰이 눈에 보이지 않으면서도 출력 요금으로 그대로 청구됩니다. OpenAI·Anthropic 공식 문서와 DeepSeek R1 비교로 가격 차이의 진짜 이유와 비용 조절법을 정리했습니다.

· 5분

작동 원리

임베딩 — 문장의 의미를 좌표로 바꾼다는 말

임베딩은 문장을 숫자 좌표로 바꿔 의미가 비슷한 것끼리 가깝게 묶는 기술로, RAG 검색의 핵심 부품이지만 LLM처럼 문장을 이해해서 답을 만드는 건 아니라는 점을 구분해야 검색 결과가 이상할 때 원인을 제대로 짚을 수 있습니다.

· 5분