모두가 AI를 사용합니다. 하지만 실제로 어떻게 작동하는지 이해하는 사람은 거의 없습니다. 사람들은 트랜스포머, 임베딩, RAG, 에이전트, RLHF 같은 용어를 마치 모두가 이미 알고 있는 것처럼 사용합니다. 대부분은 모릅니다. 그리고 솔직히 말해서, AI의 개념적 모델만 이해하면 그렇게 복잡하지 않습니다. ChatGPT, Claude, Midjourney, Cursor, 코딩 에이전트. 아래 20가지 개념을 이해하면 모두 이해할 수 있습니다. 박사 학위는 필요 없습니다. 전문 용어는 없습니다. 간단한 설명과 시각적 자료만 있으면 됩니다. 저장해 두세요. 다시 사용하게 될 겁니다.
1부: AI의 실제 작동 원리 (모든 것이 구축된 기초)
1. 신경망
모든 AI 모델의 두뇌입니다.
신경망은 계층의 연속입니다.
→ 데이터가 입력층을 통해 들어옴 → 은닉층을 통과함 → 예측값으로 나옴.
각 연결에는 '가중치'라는 작은 점수가 있어서 한 뉴런이 다음 뉴런에 얼마나 영향을 미치는지 제어합니다.
훈련 = 결과가 정확해질 때까지 수십억 개의 가중치를 조정하는 것.
간단한 아이디어입니다. 규모가 엄청나죠.
GPT-4는 약 1.8조 개의 매개변수를 가지고 있습니다. Claude 3 Opus는 수천억 개입니다.
모두 동일한 기본 개념에서 비롯됩니다: 조정 가능한 연결을 가진 계층의 뉴런.
2. 토큰화
AI가 텍스트를 읽기 전에, 텍스트를 토큰이라는 조각으로 나눕니다.
항상 전체 단어는 아닙니다.
"playing" → "play" + "ing"
"ChatGPT" → "Chat" + "G" + "PT"
"dog" → "dog" (그대로 유지)
왜 전체 단어를 사용하지 않을까요?
언어는 혼란스럽습니다. 새로운 단어, 오타, 혼합 언어. 고정된 단어 어휘는 엄청나게 커집니다.
토큰은 재사용 가능한 구성 요소입니다.
모델이 단어를 본 적이 없더라도, 익숙한 조각으로 나누어 이해할 수 있습니다.
경험상: 1 토큰 ≈ 0.75 단어입니다.
1000 토큰 ≈ 750 단어.
3. 임베딩
텍스트가 토큰화되면, 각 토큰은 숫자로 변환됩니다.
그 숫자는 임베딩, 즉 의미를 나타내는 벡터입니다.
단어를 위한 구글 지도라고 생각하세요.
→ '의사'와 '간호사'는 가까이 위치합니다.
→ '의사'와 '피자'는 멀리 위치합니다.
→ '왕' 빼기 '남자' 더하기 '여자' ≈ '여왕'
모델은 여러분처럼 단어를 이해하지 않습니다.
거리와 방향을 이해합니다.
이것이 다음을 가능하게 합니다:
→ 의미 검색
→ 추천
→ RAG 시스템
'의도를 이해하는' 모든 것은 내부적으로 임베딩을 사용합니다.
4. 어텐션
'Apple'이라는 단어는 여러 의미를 가집니다:
→ "I ate an Apple" → 과일
→ "I bought Apple stock" → 회사
임베딩만으로는 이 문제를 해결할 수 없습니다.
어텐션이 해결합니다.
어텐션을 사용하면 각 단어가 문장의 다른 모든 단어를 보고 무엇이 중요한지 결정할 수 있습니다.
"She bought Apple stock"에서:
→ 'Apple'은 'stock'과 'bought'에 주의를 기울입니다.
→ 모델은 결론을 내립니다: 회사, 과일이 아님.
어텐션 이전에는 모델이 왼쪽에서 오른쪽으로 읽었습니다. 느리고 제한적이었습니다.
어텐션 이후에는 모델이 전체 문장을 한 번에 봅니다.
이 하나의 아이디어가 현대 AI를 열었습니다.
5. 트랜스포머
오늘날 거의 모든 AI 모델을 구동하는 아키텍처입니다.
2017년 "Attention Is All You Need"라는 연구 논문에서 소개되었습니다.
혁신: 텍스트를 단어 단위로 읽는 대신 어텐션을 사용하여 모든 것을 병렬로 처리합니다.
작동 방식:
→ 텍스트 → 토큰 → 임베딩 → 쌓인 어텐션 계층 → 결과
각 계층은 이해를 정제합니다:
→ 초기 계층: 문법, 기본 구조
→ 중간 계층: 단어 간 관계
→ 깊은 계층: 복잡한 추론
결과: 엄청나게 빠른 훈련과 훨씬 더 나은 결과.
GPT, Claude, Gemini, Llama, Mistral.
이들은 모두 트랜스포머입니다.
이 단일 아키텍처를 이해하면 현대 AI를 이해하는 것입니다.
2부: LLM의 작동 방식 (AI와 채팅할 때 실제로 일어나는 일)
6. LLM (Large Language Model, 대규모 언어 모델)
LLM은 방대한 양의 텍스트로 훈련된 트랜스포머입니다.
책, 웹사이트, 코드, 위키피디아, 레딧.
수조 개의 토큰.
훈련 작업은 너무 간단해서 강력해 보이지 않습니다:
→ 다음 토큰을 예측하라.
그게 다입니다.
하지만 수조 개의 예제에서 이를 반복하면 놀라운 일이 일어납니다.
모델은 문법을 배웁니다. 그다음 추론을 배웁니다. 그리고 코드 작성, 언어 번역, 수학 문제 해결 방법을 배웁니다.
아무도 그렇게 하라고 명령하지 않았습니다.
대규모 다음 토큰 예측에서 발생했습니다.
'대규모' = 수천억 개의 매개변수. 훈련 비용 = 수백만 달러.
ChatGPT, Claude, Gemini → 이들은 모두 LLM입니다.
7. 컨텍스트 윈도우
모든 AI 모델에는 메모리 한계가 있습니다.
이를 컨텍스트 윈도우라고 합니다.
모델이 한 번에 '볼 수 있는' 최대 토큰 수입니다: 프롬프트 + 응답 + 대화 기록.
초기 GPT: 약 4,000 토큰. GPT-4: 128,000 토큰. Claude 3.5: 200,000 토큰. Gemini 1.5 Pro: 1,000,000 토큰.
더 큰 윈도우 = 더 많은 컨텍스트 = 더 나은 답변.
하지만 문제가 있습니다.
모델은 모든 것을 동등하게 읽지 않습니다.
컨텍스트의 시작과 끝에 집중합니다.
중간? 종종 무시됩니다.
이를 '중간에서 길을 잃음' 문제라고 합니다.
큰 컨텍스트 윈도우 ≠ 완벽한 기억.
이를 이해하면 AI가 때때로 명확히 언급한 내용을 '잊어버리는' 이유를 설명할 수 있습니다.
8. 템퍼러처 (Temperature)
AI가 텍스트를 생성할 때, 항상 가장 가능성 높은 다음 단어 하나만 선택하지는 않습니다.
템퍼러처라는 다이얼이 있습니다.
→ Temperature = 0: 항상 가장 안전하고 예측 가능한 단어 선택
→ Temperature = 1: 더 창의적이고 다양하게 선택
→ Temperature = 2+: 극단적, 때로는 일관성 없음
낮은 Temperature → 코드, 데이터, 요약에 사용
높은 Temperature → 브레인스토밍, 창작, 변형에 사용
대부분의 도구는 이를 자동으로 설정합니다.
하지만 이를 이해하면 AI가 때때로 '지루하게' 느껴지고 때로는 놀라게 하는 이유를 설명합니다.
9. 할루시네이션 (환각)
AI는 자신감 있게 거짓말을 합니다.
의도적으로가 아닙니다. 말 그대로 어쩔 수 없습니다.
이유는 다음과 같습니다.
LLM은 진실을 찾는 것이 아닙니다.
가장 가능성 높은 다음 토큰이 무엇인지 예측하는 것입니다.
거짓된 진술이 훈련 패턴에 기반하여 '다음에 나와야 할 것처럼' 보이면 생성합니다.
사실 확인 없음. 데이터베이스 조회 없음. 순수한 패턴 매칭입니다.
따라서 다음을 수행합니다:
→ 존재하지 않는 연구 논문 인용
→ 생성된 적 없는 API 함수를 발명
→ 완전한 자신감으로 거짓된 역사적 '사실'을 진술
이를 할루시네이션이라고 합니다.
해결책: 사실 데이터에 대해 AI 출력을 확인 없이 절대 신뢰하지 마세요.
RAG(개념 16)를 사용하여 실제 데이터에 기반을 두세요.
10. 프롬프트 엔지니어링
질문하는 방식이 모든 것을 바꿉니다.
동일한 모델, 동일한 질문. 프레이밍 방식에 따라 결과가 크게 달라집니다.
나쁜 프롬프트: → "API 설명" → 결과: 모호하고 피상적인 답변
좋은 프롬프트: → "REST API가 인증을 처리하는 방법을 설명해줘. 실제 예제와 코드를 포함시켜줘. 나는 주니어 개발자라고 가정해." → 결과: 구체적이고 구조화된 즉시 유용한 답변
프롬프트 엔지니어링은 명확한 의사소통일 뿐입니다.
실제로 효과가 있는 방법: → 컨텍스트 제공 ("X를 위한 SaaS를 만들고 있어") → 역할 할당 ("시니어 백엔드 엔지니어 역할을 해줘") → 예제 보여주기 ("내가 좋아하는 형식은 이거야: ___") → 출력 구체화 ("5가지 옵션을 번호 목록으로 제공해줘") → 복잡한 요청을 단계별로 나누기
프롬프트 엔지니어링은 해킹이 아닙니다.
모델과 소통하는 주요 방식입니다.
3부: AI 모델이 개선되는 방식 (원시 모델이 유용한 제품이 되는 방법)
11. 전이 학습
처음부터 훈련하는 것은 비용이 많이 듭니다.
엄청난 양의 데이터, 막대한 연산, 몇 주간의 훈련.
전이 학습이 이 문제를 해결합니다.
이미 방대한 일반 작업에 대해 훈련된 모델을 가져와 특정 작업에 맞게 조정합니다.
처음부터 시작하지 않습니다. 기반 위에 구축합니다.
이렇게 생각해 보세요:
→ 여러분은 이미 자전거 타는 법을 알고 있습니다.
→ 오토바이 타는 법을 배우는 것은 그 덕분에 훨씬 빠릅니다.
→ 이미 알고 있는 것을 전이합니다.
오늘날 거의 모든 AI 제품이 이렇게 작동합니다:
→ OpenAI가 거대한 기반 모델을 훈련합니다.
→ 회사는 특정 사용 사례에 맞게 미세 조정합니다.
→ 수백만 달러의 연산 비용과 몇 달간의 훈련 시간을 절약합니다.
어떤 회사도 이제 처음부터 훈련하지 않습니다.
12. 미세 조정
전이 학습은 개념을 설명합니다.
미세 조정은 실행 방법입니다.
사전 훈련된 모델을 가져와 더 작고 특정한 데이터셋으로 계속 훈련합니다.
모델은 이미 '언어'를 마스터했습니다.
이제 여러분의 특정 분야를 가르치고 있습니다.
예:
→ 임상 노트에 미세 조정된 의료 모델
→ 계약서에 미세 조정된 법률 모델
→ GitHub에 미세 조정된 코딩 모델
결과: 사용 사례에 완벽하게 응답하는 모델.
비용: 수십억 개의 매개변수를 업데이트해야 합니다.
여러 GPU와 심각한 인프라가 필요합니다.
(이것이 다음 개념인 LoRA가 중요한 이유입니다).
13. RLHF (인간 피드백 기반 강화 학습)
미세 조정은 모델을 전문화합니다.
RLHF는 모델이 도움이 되고 안전하게 느껴지도록 만듭니다.
RLHF가 없으면: 모델은 단지 텍스트를 예측합니다. 유창하지만 정렬되지 않습니다.
RLHF가 있으면: 모델은 인간이 실제로 선호하는 것을 배웁니다.
작동 방식:
→ 모델에 프롬프트가 표시됨 → 모델이 여러 응답을 생성함 → 인간이 응답에 순위를 매김 → 모델이 인간이 선호하는 것을 선호하도록 학습함
이 과정이 수천 번 반복됩니다.
모델은 '좋은 답변'에 대한 감각을 구축합니다:
→ 명확함
→ 도움이 됨
→ 정직함
→ 안전함
이것이 ChatGPT와 Claude가 무작위 텍스트 생성기가 아닌 어시스턴트처럼 느껴지는 이유입니다.
RLHF가 없으면 여전히 인상적이겠지만 훨씬 덜 유용하고, 덜 신뢰할 수 있으며, 훨씬 제어하기 어려울 것입니다.
14. LoRA (Low-Rank Adaptation, 저순위 적응)
미세 조정은 강력하지만 비용이 많이 듭니다.
수십억 개의 매개변수를 업데이트하려면 여러 GPU와 심각한 인프라가 필요합니다.
LoRA가 이 문제를 해결합니다.
전체 모델을 변경하는 대신 LoRA는:
→ 원래 모델을 고정 상태로 유지
→ 위에 작은 훈련 가능한 계층을 추가
→ 이 계층은 전체 모델 크기의 극히 일부
핵심: 미세 조정의 대부분 변경은 작습니다.
전체 모델을 다시 작성할 필요가 없습니다.
특정한 작은 조정만 필요합니다.
결과:
→ 단일 소비자 GPU에서 미세 조정 가능
→ 하나의 기본 모델을 저장하고 다른 LoRA 어댑터를 교체하여 사용 가능
→ 대규모 저장 공간 없이 여러 전문화된 모델 구현
LoRA는 오픈소스 AI가 폭발한 이유입니다.
갑자기 누구나 노트북에서 강력한 모델을 미세 조정할 수 있게 되었습니다.
15. 양자화
모델이 점점 커지고 있습니다.
실행하려면 막대한 메모리와 연산이 필요합니다.
양자화는 모델을 더 작고 저렴하게 실행할 수 있게 만듭니다.
방법: 각 가중치의 정밀도를 줄입니다.
전체 정밀도로 저장된 가중치는 32비트를 사용합니다.
4비트로 양자화 → 8배 더 작아짐.
놀라운 점: 품질 손실이 종종 놀랍도록 작습니다.
이것이 이제 가능한 이유입니다:
→ MacBook에서 LLaMA 실행
→ 소비자 GPU에서 로컬로 Mistral 실행
→ 휴대전화에서 강력한 모델 사용
양자화가 없으면 대규모 모델은 데이터 센터에 갇혀 있을 것입니다.
양자화를 통해 여러분의 기기에서 실행됩니다.
4부: 실제 AI 시스템이 구축되는 방식 (실제 사용하는 제품 뒤에는 무엇이 있는가)
16. RAG (Retrieval-Augmented Generation, 검색 증강 생성)
LLM은 메모리에서 답변하기 때문에 할루시네이션을 합니다.
RAG는 먼저 정보를 검색할 수 있도록 하여 이를 해결합니다.
작동 방식:
사용자가 질문을 합니다
시스템이 지식 베이스에서 관련 문서를 검색합니다
해당 문서가 모델에 컨텍스트로 제공됩니다
모델이 추측이 아닌 실제 정보를 사용하여 답변합니다
이렇게 생각해 보세요:
→ 폐쇄형 시험 (RAG 없음): 메모리에서 답변, 자주 틀림
→ 개방형 시험 (RAG 있음): 출처를 보고 훨씬 정확함
왜 강력한가:
→ 데이터가 변경되어도 재훈련이 필요 없음, 문서만 업데이트하면 됨
→ 모델이 항상 최신의 정확한 정보로 작업함
→ 할루시네이션을 크게 줄임
모든 진지한 AI 제품은 RAG를 사용합니다.
고객 지원 봇, 법률 도구, 의료 어시스턴트, 내부 지식 베이스.
17. 벡터 데이터베이스
RAG는 올바른 문서를 빠르게 찾아야 합니다.
하지만 수백만 개의 문서를 키워드가 아닌 의미로 검색하려면 어떻게 해야 할까요?
벡터 데이터베이스입니다.
작동 방식:
각 문서는 임베딩(숫자 벡터)으로 변환됩니다.
이 벡터는 데이터베이스에 저장됩니다.
사용자가 질문하면 질문도 벡터로 변환됩니다.
데이터베이스는 질문 벡터에 가장 가까운 벡터를 찾습니다.
의미적으로 가장 유사한 문서를 반환합니다.
키워드 검색보다 나은 이유:
→ "심장병 치료"가 "심장 관리 프로토콜"에 관한 문서를 찾음
→ 정확한 단어가 일치하지 않아도 의미가 일치함
도구: Pinecone, Qdrant, Weaviate, pgvector.
벡터 데이터베이스는 AI 시스템이 텍스트 문자열을 단순히 일치시키는 것이 아니라 '이해'하도록 만드는 요소입니다.
18. AI 에이전트
LLM은 프롬프트에 답변합니다.
AI 에이전트는 실제로 일을 합니다.
차이점:
→ LLM: 묻고, 답하고, 끝
→ 에이전트: 목표를 주면, 계획하고, 행동하고, 결과를 확인하고, 조정하고, 반복합니다
에이전트 루프:
생각 → 행동 → 관찰 → 반복
예: 버그를 수정하는 코딩 에이전트
→ 이슈를 읽음
→ 소스 코드를 탐색
→ 결함을 식별
→ 수정 사항을 작성
→ 테스트 실행
→ 실패한 부분 관찰
→ 수정 사항 조정
→ 완료될 때까지 반복
모델은 두뇌입니다. 도구는 손입니다.
에이전트가 사용할 수 있는 도구:
→ 웹 검색
→ 코드 실행
→ 파일 시스템
→ API
→ 이메일 / 일정
→ 데이터베이스
에이전트는 AI를 단순한 챗봇에서 동료로 바꿉니다.
19. 사고 사슬 (Chain of Thought, CoT)
때때로 AI가 틀린 답변을 하는 이유는 바보여서가 아닙니다.
너무 빨리 답변으로 건너뛰었기 때문입니다.
사고 사슬이 이를 해결합니다.
최종 답변을 직접 요청하는 대신:
→ "풀어봐: 기차가 60mph로 2.5시간 동안 이동하면 얼마나 멀리 갈까?"
단계별로 생각하라고 지시합니다:
→ "단계별로 풀어봐: 속도 = 60mph. 시간 = 2.5시간. 거리 = 속도 × 시간 = ?"
모델이 추론 과정을 따라갑니다:
→ 1단계: 공식 식별
→ 2단계: 숫자 대입
→ 3단계: 계산
수학, 논리, 다단계 문제에 훨씬 더 신뢰할 수 있습니다.
핵심: 모델이 반응만 하는 것이 아니라 생각할 공간을 주는 것입니다.
이것이 "단계별로 생각해 봐" 또는 "이것을 신중하게 추론해 봐"와 같은 프롬프트가 실제로 효과가 있는 이유입니다.
20. 확산 모델
지금까지는 모두 텍스트에 관한 것이었습니다.
확산 모델은 AI가 이미지를 생성하는 방법을 설명합니다.
과정은 직관에 반합니다.
모델은 그리는 법을 배우지 않습니다.
이미지를 파괴하는 법을 배웁니다.
훈련:
→ 실제 이미지로 시작
→ 순수한 노이즈가 될 때까지 단계별로 노이즈를 추가
→ 모델이 이를 역전시키도록 훈련, 단계별로 노이즈 제거
생성:
→ 순수한 노이즈로 시작
→ 모델이 단계별로 노이즈 제거
→ 텍스트 프롬프트에 의해 안내
→ 무작위성에서 이미지가 나타남
이름은 물리학에서 유래: 잉크가 물에 퍼지듯 입자가 매질을 통해 무작위로 확산되는 현상.
여기서 모델은 그 확산을 역전시키는 법을 배웁니다.
이제 이미지뿐만이 아닙니다:
→ 비디오 (Sora, Runway)
→ 오디오
→ 3D 콘텐츠
→ 약물 분자
확산 모델은 AI가 시각적 콘텐츠를 생성하는 방법입니다.
이상 20가지입니다. 요약하겠습니다:
AI 작동 방식:
→ 1. 신경망: 계층적 패턴 학습
→ 2. 토큰화: 텍스트를 조각으로 나누기
→ 3. 임베딩: 숫자로서의 의미
→ 4. 어텐션: 맥락에 따른 의미 변화
→ 5. 트랜스포머: 모든 것의 기반이 되는 아키텍처
LLM 작동 방식:
→ 6. LLM: 대규모 다음 토큰 예측
→ 7. 컨텍스트 윈도우: 메모리 한계와 중간 문제
→ 8. 템퍼러처: 창의성 다이얼
→ 9. 할루시네이션: 자신감 있고 틀림
→ 10. 프롬프트 엔지니어링: 소통하는 방법
모델 개선 방식:
→ 11. 전이 학습: 기존 것 위에 구축
→ 12. 미세 조정: 모델 전문화
→ 13. RLHF: 도움이 되도록 가르치기
→ 14. LoRA: 비용 없는 미세 조정
→ 15. 양자화: 큰 모델을 작은 기기에서 실행
실제 시스템 구축 방식:
→ 16. RAG: 먼저 검색, then 답변
→ 17. 벡터 데이터베이스: 의미로 검색
→ 18. AI 에이전트: 답변에서 실행으로
→ 19. 사고 사슬: 생각할 공간 제공
→ 20. 확산 모델: 노이즈에서 이미지로
이제 AI가 실제로 어떻게 작동하는지 이해했습니다.
매일 AI를 사용하는 대부분의 사람들은 이것을 모릅니다.
그 차이가 여러분의 이점입니다.
도움이 되었다면:
→ 네트워크와 공유하려면 리포스트 해주세요
→ @chesny를 팔로우하여 더 많은 분석을 확인하세요
→ 참고용으로 저장하세요
저는 AI, 제품 구축, 그리고 여러분이 자는 동안 작동하는 시스템에 대해 씁니다.
