목차 & 개념 흐름Boosting 개요 (순차학습 · 약한→강한 학습기) ↓Bagging vs Boosting 비교 ↓AdaBoost (가중치 기반 오분류 집중) ├─ 알고리즘: εₜ → αₜ → Dₜ₊₁ 업데이트 └─ 최종 분류기: H(x) = sign(Σ αₜhₜ(x)) ↓GBM (Gradient Boosting Machine, 잔차 학습) ├─ 핵심: 잔차 = 손실함수의 음의 기울기 └─ 알고리즘: F₀ → 잔차 → fₘ → Fₘ = Fₘ₋₁ + ηfₘ ↓XGBoost (정규화 + 병렬처리) ↓LightGBM (GOSS + EFB + Leaf-wise) ↓알고리즘 비교표1. Boosting 개요 ⭐⭐1-1. 정의부스팅: 여러 개의 약한 학습자를 순차적(Sequ..

목차 & 개념 흐름결정트리 리뷰 (단점: 과적합) ↓Bagging (Bootstrap Aggregating) ├─ Bootstrap: 복원 추출로 여러 샘플 생성 ├─ Aggregating: 다수결 or 평균으로 결합 ├─ 집계함수: Majority Voting / Weight Voting └─ OOB Error: 내부 검증 지표 ↓Random Forest ├─ Bagging + Random Subspace ├─ 알고리즘: m개 변수 무작위 선택 ├─ 일반화 오류 수렴 (Strong Law of Large Numbers) └─ 변수 중요도 (Permutation + OOB Error)1. 결정트리 리뷰1-1. 결정트리 생성 과정 (Greedy Approach)빈(empty) 결정..

목차 & 개념 흐름과적합 정의 & 일반화 ↓과적합 검사 방법 ├─ 예비 데이터(Holdout) → Sweet Spot └─ 교차 검증(k-fold Cross Validation) ↓학습 곡선 (로지스틱 회귀 vs 결정트리) ↓과적합 회피 방법 ├─ 결정트리: 조기 종료 / 가지치기(Pruning) └─ 수학함수: 정규화(Regularization) ↓Bias-Variance Tradeoff ↓Lasso(L1) & Ridge(L2) 정규화 → α 파라미터 효과1. 과적합 (Overfitting)1-1. 정의 ⭐개념 설명과적합(Overfitting)훈련 데이터에만 제대로 동작하고, 학습되지 않은(새로운) 데이터에 대해서는 제대로 동작하지 못하는 모델일반화(Generaliza..

목차 & 개념 흐름파라미터 학습 → 선형 분류자 → 선형 판별식 → 목적함수 최적화 ↓선형 회귀분석 → 회귀식 적합도(R², 표준오차) → 다중 선형 회귀 ↓로지스틱 회귀분석 → 승산 → 로짓 → 시그모이드(식 4) ↓최대우도추정(MLE) → 로그우도함수 → 이항분포 MLE1. 파라미터 학습 (Parameter Learning)개념 설명모델여러 수치형 속성에 대해 파라미터화된 수학함수/방정식파라미터 학습모델이 데이터에 잘 맞도록 파라미터를 튜닝하는 작업선형 모델 종류선형 회귀분석, 로지스틱 회귀분석, 선형 SVM2. 선형 분류자 & 선형 판별식2-1. 선형 분류자 (Linear Classifier)결정트리: 결정경계를 수직/수평으로만 분할선형 분류자: 공간을 사선(대각선) 으로 분할 → ..

1. 예측 모델링 개요모델(Model)이란?어떤 목적을 달성하기 위해 실세계를 단순하게 표현한 것예측모델(Predictive Model)우리가 관심을 갖는 타켓 변수값(반응변수, 종속변수)을 예측하는 공식수학공식 또는 논리적 규칙, 또는 두 형태의 혼합종류 설명 타켓변수 유형분류 모델 (Classification Model)범주형 값을 예측Categorical (예: yes/no)회귀 모델 (Regression Model)수치형 값을 예측Numerical (예: 가격, 나이)설명모델(Explanatory Model)값을 추정하기 위한 것이 아니라 현상이나 절차를 전체적으로 알기 쉽게 설명하기 위한 모델하나의 모델을 예측 및 설명에 모두 사용 가능 → 차이는 중요하지 않음2. 감독 세분화 (Supervis..

2장 핵심 키워드 한눈에 보기알고리즘 분류 핵심 아이디어 핵심 수식/지표Z-Score통계 기반평균에서 표준편차 몇 배 떨어졌나z = (x - μ) / σ, |z| > 3 이면 이상치LOF밀도 기반주변 이웃과 지역 밀도 비교LOF >> 1 이면 이상치Isolation Forest트리/모델 기반이상치를 빠르게 "고립"시킴s(x,n) = 2^(-E(h(x))/c(n)), s→1 이상치One-Class SVM경계 기반정상 데이터와 원점 사이 초평면ν: 이상치 비율 하이퍼파라미터Autoencoder딥러닝 기반복원 오차(Reconstruction Error)로 탐지정상은 복원 잘됨, 이상치는 복원 실패🔴 시험 포인트: LOF · Isolation Forest · One-Class SVM이 핵심 3대 알고리즘1. ..

1. 인공지능 역사⭐ AI 역사 핵심 연표연도 사건 핵심 키워드1936년앨런 튜링(Alan Turing), 튜링 머신 개념 정의튜링 머신, 범용 계산기1948년튜링 "Intelligent Machinery" 보고서 발표지능의 분해 가능성1950년튜링 "Computing Machinery and Intelligence"튜링 테스트 제안 → AI 태동기1946년ENIAC 등장 (최초의 범용 컴퓨터, 진공관 17,000개)빠른 계산 → AI에 영감1956년다트머스 컨퍼런스 — "Artificial Intelligence" 용어 최초 등장McCarthy, Minsky, Shannon, Rochester1958년Frank Rosenblatt, 퍼셉트론(Perceptron) 발명1차 AI 붐 시작1969년Minsk..

📚 NLP Week 15 — Agentic AI 완전 정복 노트시험까지 일주일 | 벼락치기 특화 | A+ 목표 강의교안 전 슬라이드(Slide 1~28) 기반 완전 정리📋 목차Paradigm Shift: Static AI → Agentic AIAgentic AI의 핵심 구성요소Tool Use (Function Calling)Tool Use 실행 흐름 (Anthropic Claude API)MCP: Model Context ProtocolMCP 핵심 아키텍처: Host / Client / ServerMCP Transport LayerMCP 구현: Server & Client 코드Tool Use 연구 방향Memory in Agentic AIMemory 연구 방향통합 Agentic AI 아키텍처Multi-..

NLP Week 14 — Jailbreaking 완전 정복시험 핵심 요약: 이번 주차는 LLM의 안전장치를 우회하는 다양한 공격 기법(Jailbreaking)과 그 메커니즘을 다룬다. 공격 유형(Prompt Injection / Many-shot / Multi-turn / Decomposition / White-box / RL-based)과 각 기법의 작동 원리, 위협 모델(White/Gray/Black-box)을 반드시 구분해서 알아야 한다.목차Prompt Injection 기초RAG와 보안 위협Many-shot Jailbreaking (MSJ)Multi-turn Context 조작 (Crescendo)Prompt Decomposition (DrAttack)Multimodal 공격 (FigStep 등)..

📚 NLP 13주차 완전 정복 — Large Language Model Quantization시험 대비 핵심 요약 | 벼락치기 특화 버전총 22페이지 강의교안 기반 전체 정리📋 목차Quantization 개요Naive Rounding의 문제점과 Linear QuantizationSymmetric vs Asymmetric QuantizationUniform Quantization의 한계 — Outlier 문제Clipping for QuantizationNon-Uniform QuantizationResearch Topics: 핵심 연구 방향Quantization Method: Weight QuantizationINT 가중치 획득 방법론When: Static vs Dynamic QuantizationWha..