728x90 반응형 AI/Machine Learning14 머신러닝에서 L1, L2 규제 머신러닝 모델을 만들다 보면 종종 “과적합(overfitting)”이라는 문제를 마주하게 됩니다.학습 데이터에는 잘 맞지만, 실제 데이터에서는 성능이 떨어지는 현상이죠.이런 과적합을 방지하기 위한 대표적인 기법 중 하나가 바로"정규화(Regularization)", 그 중에서도 L1, L2 규제입니다.이번 글에서는 L1, L2 규제가 무엇인지, 어떤 차이가 있는지,그리고 실제로 어떻게 적용하는지를 정리해보겠습니다.왜 규제가 필요한가요?머신러닝 모델은 보통 다음과 같은 손실 함수(Loss Function)를 최소화하려고 학습합니다:Loss = 예측값과 실제값의 차이하지만 모델이 너무 복잡하거나 파라미터가 너무 많으면학습 데이터에만 지나치게 최적화되어테스트 데이터에서는 성능이 떨어질 수 있어요.이를 방지하기.. 2025. 4. 13. 분류 vs 회귀 모델 평가 지표 머신러닝 모델을 만들었는데,"정확도가 90%인데도 결과가 이상해요.""이 문제는 accuracy보다 recall이 중요하지 않나요?""roc_auc_score는 무슨 뜻이죠?"이런 질문들, 한 번쯤 들어보셨을 거예요.오늘은 머신러닝과 딥러닝 모델을 만들 때 반드시 알아야 하는모델 평가 지표(Metric)에 대해 제대로 정리해볼게요.특히 accuracy_score, roc_auc_score, r2_score, mean_squared_error 등각 지표가 분류(Classification)와 회귀(Regression) 중 어디에 쓰이는지를 중심으로 설명드릴게요.왜 평가 지표가 중요할까?우리는 모델을 학습시키고 난 뒤 반드시 평가해야 합니다.모델이 얼마나 잘 맞췄는지, 실제 상황에서 유용한지를 판단해야 하기 .. 2025. 4. 13. 원핫 인코딩(One-Hot Encoding) 원핫 인코딩(One-Hot Encoding)머신러닝이나 딥러닝을 공부하다 보면 자주 접하게 되는 개념 중 하나가 원핫 인코딩(One-Hot Encoding)입니다. 데이터 전처리 단계에서 범주형 데이터를 숫자로 바꿔야 할 때 유용하게 사용되죠. 이 글에서는 원핫 인코딩이 무엇인지, 왜 필요한지, 그리고 어떻게 디코딩하는지까지 한 번에 정리해드립니다.원핫 인코딩이란?원핫 인코딩(One-Hot Encoding)은 범주형 데이터를 이진 벡터(binary vector)로 표현하는 방법입니다.예를 들어, 다음과 같은 카테고리가 있다고 해봅시다:['사과', '바나나', '포도']이를 원핫 인코딩하면 아래와 같이 표현됩니다:과일원핫 벡터사과[1, 0, 0]바나나[0, 1, 0]포도[0, 0, 1]즉, 하나의 값만 1.. 2025. 4. 13. 머신러닝에서의 정규화(Regularization) 머신러닝에서의 정규화(Regularization)란?머신러닝 모델을 처음 접할 때는 데이터에 잘 맞는 모델을 만드는 것이 중요하다고 생각하기 쉽습니다.하지만 실제 문제에선 훈련 데이터에만 너무 잘 맞는 모델은 과적합(overfitting) 되기 쉽고,새로운 데이터에 대한 예측 성능이 떨어질 수 있습니다.이때 등장하는 핵심 개념이 바로 정규화(Regularization) 입니다.1. 정규화의 정의정규화(Regularization)는 머신러닝 모델이 너무 복잡해지는 것을 방지하고,과적합을 줄이기 위해 패널티를 추가하는 방법입니다.간단히 말하면, 모델이 너무 자유롭게 학습하지 않도록 일정한 제약을 거는 것입니다.2. 왜 정규화가 필요한가요?모델이 너무 복잡하면 훈련 데이터에는 잘 맞지만, 테스트 데이터에는 성.. 2025. 4. 9. 데이터 변환 머신러닝 모델에서 "데이터 전처리"는 성능을 좌우하는 중요한 과정입니다.그 중에서도 특성 스케일링(feature scaling)과 로그 변환(log transform)은 모델 학습 효율을 높이는 데 필수적인 기법입니다.이번 글에서는 StandardScaler, MinMaxScaler, 로그 변환에 대해 간단한 이론과 실전 코드 예제를 함께 소개합니다.1. 왜 데이터 스케일링이 필요할까?머신러닝 알고리즘은 숫자의 절대적인 크기에 영향을 받을 수 있습니다.예를 들어, 거리 기반 알고리즘(k-NN, SVM), 경사 하강법 기반 알고리즘(선형 회귀, 로지스틱 회귀 등)은 특성 간의 단위 차이가 클 경우 제대로 학습되지 않습니다.이 문제를 해결하기 위해 특성값을 일정한 범위나 분포로 조정하는 과정이 바로 스케일링.. 2025. 4. 8. 로그(log)와 지수(exp)의 관계 로그(log)와 지수(exp)는 수학에서 떼려야 뗄 수 없는 관계를 갖는 함수입니다.하나는 다른 하나의 "역함수(inverse function)" 역할을 하며,머신러닝, 통계, 공학, 경제 등 다양한 분야에서 핵심적으로 사용됩니다.이 글에서는 로그와 지수의 기본 개념과 그 관계, 그리고 실전 활용 사례까지 알아보겠습니다.1. 기본 정의지수 함수 (Exponential Function)$$y=e^x \quad 또는 \quad \exp(x)$$x를 지수로 사용매우 빠르게 증가하거나 감소자연상수 e≈2.718로그 함수 (Logarithmic Function)$$x = \log_e(y) \quad \text{또는} \quad \ln(y)$$$\exp(x) = y \quad라면,\quad \ln(y) = x$지수.. 2025. 4. 8. 선형 회귀 모델의 데이터 변환 선형 회귀(Linear Regression)는 데이터 분석에서 가장 기본적이면서도 강력한 기법 중 하나입니다.하지만 현실의 데이터는 반드시 선형적인 형태를 가지지 않기 때문에, 단순한 선형 모델만으로는 적절한 예측이 어려울 수 있습니다.이때 유용하게 사용되는 것이 바로 데이터 변환(Data Transformation)입니다.이번 글에서는 선형 회귀에서 자주 사용되는 변환 기법들을 소개하고, 그 목적과 효과를 함께 알아보겠습니다.1. 왜 데이터를 변환할까?선형성을 만족시키기 위해회귀 모델은 입력 변수와 출력 변수 사이에 선형 관계가 있다고 가정합니다.실제 데이터가 이 가정을 만족하지 않으면 모델의 성능이 떨어집니다.이상치(Outlier)의 영향 최소화스케일이 크거나 이상치가 있는 데이터를 변환하면 안정적인.. 2025. 4. 7. Bias-Variance Trade-off in python Bias-Variance Trade-off를 이해하는 파이썬 예제와 설명머신러닝 모델의 성능을 결정짓는 중요한 이론 중 하나가 바로 Bias-Variance Trade-off입니다. 이번 글에서는 이 개념을 직접 코드로 구현해보며, 시각적으로 어떻게 작동하는지 확인해보겠습니다.목표다양한 복잡도를 가진 모델이 편향과 분산에 어떤 영향을 미치는지 확인파이썬 코드 예제import numpy as npimport matplotlib.pyplot as pltfrom sklearn.preprocessing import PolynomialFeaturesfrom sklearn.linear_model import LinearRegressionfrom sklearn.metrics import mean_squared_err.. 2025. 4. 7. Bias-Variance Trade-off Bias-Variance Trade-off: 머신러닝 모델의 핵심 균형머신러닝에서 중요한 목표는 모델이 주어진 데이터에 잘 맞으면서도 새로운 데이터에도 잘 작동하도록 만드는 것입니다.이때 꼭 알아야 하는 개념이 바로 Bias-Variance Trade-off (편향-분산 균형)입니다.Bias(편향)란?편향은 모델이 데이터의 실제 패턴을 얼마나 잘 포착하지 못하는지를 나타냅니다.편향이 높으면 모델은 지나치게 단순하며 복잡한 관계를 무시합니다.이 경우 과소적합(Underfitting)이 발생해 예측력이 떨어집니다.예: 복잡한 곡선을 단순한 직선으로 예측하려는 경우Variance(분산)란?분산은 모델이 훈련 데이터에 얼마나 민감한지를 나타냅니다.분산이 높으면 모델은 데이터의 작은 변화에도 반응합니다.이로 인해.. 2025. 4. 7. 이전 1 2 다음 728x90 반응형
