logo

TechCodeview

기계 학습 알고리즘

기계 학습 알고리즘 명시적인 프로그래밍 없이도 컴퓨터가 패턴을 이해하고 데이터를 기반으로 예측하거나 판단할 수 있도록 하는 계산 모델입니다. 이러한 알고리즘은 현대 인공지능의 기초를 형성하며 이미지 및 음성 인식, 자연어 처리, 추천 시스템, 사기 탐지, 자율주행차 등 다양한 애플리케이션에 사용됩니다.



이것 기계 학습 알고리즘 이 기사에서는 다음과 같은 기계 학습의 모든 필수 알고리즘을 다룰 것입니다. 지원 벡터 머신, 의사 결정, 물류 회귀, Naive Bayees 분류기, Random Forest, k-평균 클러스터링, 강화 학습, 벡터, 계층적 클러스터링, xgboost, adaboost, 물류 등

기계 학습 알고리즘의 유형

머신러닝 알고리즘에는 세 가지 유형이 있습니다.

  1. 지도 학습
    • 회귀
    • 분류
  2. 비지도 학습
  3. 강화 학습

기계 학습 알고리즘의 유형



1. 지도 학습 알고리즘

지도 학습 모델이나 알고리즘을 훈련하기 위해 레이블이 지정된 데이터 세트를 사용한 기계 학습 알고리즘의 한 유형입니다. 알고리즘의 목표는 입력 데이터에서 출력 레이블로의 매핑을 학습하여 보이지 않는 새로운 데이터에 대해 예측 또는 분류를 수행할 수 있도록 하는 것입니다.

지도 기계 학습 알고리즘
  1. 선형 모델:
    • 회귀
      • 일반 최소 제곱 회귀
      • 단순 선형 회귀
      • 다중 선형 회귀
      • 다항식 회귀
      • OMP(직교 매칭 추구)
      • 베이지안 회귀
      • 분위수 회귀
      • 등장성 회귀
      • 단계적 회귀
      • 최소각 회귀(LARS)
    • 분류:
    • 정규화 :
      • 올가미(L1 정규화)
      • 능선(L2 정규화)
        • 능선 회귀
        • 능선 분류기
      • 탄력적 넷
      • 라스 올가미
  2. K-최근접 이웃(KNN):
    • 무차별 대입 알고리즘
    • 볼 트리 및 KD 트리 알고리즘
    • KNN(K-최근접 이웃) 분류기
    • KNN(K-최근접 이웃) 회귀분석기
  3. 서포트 벡터 머신:
    • 서포트 벡터 머신 회귀자
    • SVM의 다양한 커널 기능
  4. 확률적 경사하강법
    • 확률적 경사하강 분류기
    • 확률적 경사하강법 회귀분석기
    • SGD의 다양한 손실 기능
  5. 의사결정 트리:
    • 의사결정 트리 알고리즘
      • 반복적 이분화기 3(ID3) 알고리즘
      • C5. 알고리즘
      • 분류 및 회귀 트리 알고리즘
    • 의사결정 트리 분류기
    • 의사결정 트리 회귀자
  6. 앙상블 학습:
    • 배깅(부트스트랩 집계)
    • 부스팅
      • 에이다부스트
      • XGBoost
      • 캣부스트
      • GBM(그라디언트 부스팅 머신)
      • 라이트GBM
    • 스태킹
  7. 생성 모델
    • 나이브 베이즈
      • 가우스 나이브 베이즈
      • 다항식 나이브 베이즈
      • 베르누이 나이브 베이즈
    • 가우스 프로세스
      • 가우스 과정 회귀(GPR)
      • 가우스 프로세스 분류(GPC)
    • 가우스 판별 분석
      • 선형 판별 분석(LDA)
      • 2차 판별 분석(QDA)
    • 베이지안 신념 네트워크
    • 은닉 마르코프 모델(HMM)
  8. 시계열 예측:
    • 시계열 시각화 및 분석:
      • 시계열 구성요소: 추세, 계절성 및 노이즈
      • 시계열 분해 기법
      • 계절적 조정 및 차이
      • 자기상관 및 부분 자기상관 함수
      • 증강된 디키-풀러 테스트
      • 시계열의 계절적 분해(STL 분해)
      • ARIMA 모델을 위한 Box-Jenkins 방법론
    • 시계열 예측 알고리즘:
      • 이동 평균(MA) 및 가중 이동 평균
      • 지수 평활 방법(단순, 이중 및 삼중)
      • 자기회귀(AR) 모델
      • 이동 평균(MA) 모델
      • 자기회귀 통합 이동 평균(ARIMA) 모델
      • Loess를 이용한 시계열의 계절 분해(STL)
      • 계절 자기회귀 통합 이동 평균(SARIMA) 모델
      • ARIMAX 및 SARIMAX 모델
  9. 지도 차원 감소 기법:
    • 선형 판별 분석(LDA)

지도 기계 학습 알고리즘 중 일부는 약간의 수정을 통해 분류 및 회귀 모두에 사용할 수 있습니다.



  • 다중클래스 및 다중 출력 알고리즘:
    • 다중 클래스 분류
      • OneVsRest 분류기
    • 다중 라벨 분류
    • 다중 출력 회귀

분류 및 회귀 알고리즘에 대한 측정항목:

교차 검증 기법:

  • K-겹 교차 검증
  • 계층화된 k-폴드 교차 검증
  • 일대일 교차 검증
  • 셔플 분할 교차 검증
  • 시계열 교차 검증

최적화 기술:

  • 경사하강법
    • 확률적 경사하강법
    • 미니배치 경사하강법
    • 모멘텀 기반 경사하강법
  • 뉴턴 기반 최적화 기술
    • 뉴턴의 알고리즘
    • 준뉴턴 방법(BFGS, L-BFGS)
    • 공액 기울기
  • 지역 검색 최적화 기술
    • 언덕 오르기
    • 타부 검색

2. 비지도 학습 알고리즘

비지도 학습 레이블이 지정되지 않은 데이터 세트를 사용하여 데이터 세트 내에서 패턴, 구조 또는 관계를 찾는 데 알고리즘이 사용되는 일종의 기계 학습 알고리즘입니다. 사전 정의된 카테고리나 라벨 없이 데이터의 고유 구조를 탐색합니다.

비지도 기계 학습 알고리즘
  • 클러스터링
    • 중심 기반 방법
    • 분포 기반 방법
    • 연결 기반 방법
      • 계층적 클러스터링
        • 응집 클러스터링
        • 분열적인 클러스터링
      • 선호도 전파
    • 밀도 기반 방법
      • DBSCAN(노이즈가 있는 애플리케이션의 밀도 기반 공간 클러스터링)
      • OPTICS(클러스터링 구조를 식별하기 위한 주문 지점)
  • 연관 규칙 마이닝
    • Apriori 알고리즘
    • FP-성장(빈번한 패턴-성장)
    • ECLAT(동등 클래스 클러스터링 및 상향식 격자 탐색)
  • 이상 탐지:
    • Z-점수
    • LOF(로컬 이상값 요인)
    • 고립된 숲
  • 차원 축소 기술:
    • 주성분 분석(PCA)
    • t-분산 확률적 이웃 임베딩(t-SNE)
    • 비음수 행렬 분해(NMF)
    • 독립 구성요소 분석(ICA)
    • 요인 분석
    • LDA(잠재 디리클레 할당)
    • 아이소맵
    • LLE(로컬 선형 임베딩)
    • 잠재 의미 분석(LSA)

3. 강화 학습

강화 학습 에이전트가 주변 환경과 상호 작용하여 연속적인 결정을 내리는 방법을 학습하는 일종의 기계 학습 알고리즘입니다. 에이전트는 자신의 행동에 따라 인센티브나 처벌의 형태로 피드백을 받습니다. 에이전트의 목적은 시행착오를 통해 시간이 지남에 따라 누적 보상을 최대화하는 최적의 전술을 찾는 것입니다. 강화 학습은 에이전트가 환경 탐색, 게임 플레이, 로봇 관리 또는 불확실한 상황에서 판단하는 방법을 배워야 하는 시나리오에서 자주 사용됩니다.

강화 학습
  • 모델 기반 방법:
    • 마르코프 결정 프로세스(MDP)
    • 벨만 방정식
    • 값 반복 알고리즘
    • 몬테카를로 트리 검색
  • 모델이 없는 방법:
    • 가치 기반 방법:
      • Q-러닝
      • 소스
      • 몬테카를로 방법
    • 정책 기반 방법:
      • 강화 알고리즘
      • 배우-평론가 알고리즘
    • 배우 평론가 방법
      • 비동기적 장점 배우-비평(A3C)

인기 있는 기계 학습 알고리즘 목록

다음은 가장 인기 있는 상위 10개 기계 학습 알고리즘 목록입니다.

1. 선형 회귀

선형 회귀는 입력 특성과 연속 대상 변수 간의 선형 관계를 매핑하는 데 사용되는 간단한 알고리즘입니다. 데이터에 선을 맞춘 다음 선을 사용하여 새 값을 예측하는 방식으로 작동합니다.

2. 로지스틱 회귀

로지스틱 회귀는 인스턴스가 특정 클래스에 속할 가능성을 추정하기 위해 분류 작업에 사용되는 선형 회귀의 확장입니다.

파이썬 정렬 튜플

3. SVM(지원 벡터 머신)

SVM은 분류 및 회귀 작업을 수행할 수 있는 지도 학습 알고리즘입니다. 기능 공간에서 클래스를 가장 잘 분리하는 초평면을 찾습니다.

4. KNN(K-최근접 이웃)

KNN은 분류 및 회귀 분석에 사용할 수 있는 비모수적 기술입니다. 이는 새로운 데이터 포인트와 가장 유사한 k개의 데이터 포인트를 식별한 다음 해당 데이터 포인트의 레이블을 사용하여 새 데이터 포인트의 레이블을 예측하는 방식으로 작동합니다.

5. 의사결정나무

의사결정 트리는 분류 및 회귀 분석에 사용할 수 있는 지도 학습 기술의 한 유형입니다. 이는 각 그룹이 높은 정확도로 분류되거나 예측될 수 있을 때까지 데이터를 점점 더 작은 그룹으로 분할하는 방식으로 작동합니다.

6. 랜덤 포레스트

랜덤 포레스트(Random Forest)는 일련의 의사결정 트리를 사용하여 개별 트리의 예측을 집계하여 예측하는 일종의 앙상블 학습 방법입니다. 단일 의사결정 트리의 정확성과 탄력성을 향상시킵니다. 분류 및 회귀 작업 모두에 사용할 수 있습니다.

7. 나이브 베이즈

Naive Bayes는 분류 작업에 사용되는 Bayes 정리를 기반으로 하는 확률적 분류기입니다. 이는 데이터 포인트의 특징이 서로 독립적이라고 가정하여 작동합니다.

8. PCA(주성분 분석)

PCA는 가능한 많은 분산을 유지하면서 데이터를 낮은 차원 공간으로 변환하는 데 사용되는 차원 축소 기술입니다. 이는 가장 많은 변형이 포함된 데이터의 방향을 찾은 다음 해당 방향에 데이터를 투영하는 방식으로 작동합니다.

9. Apriori 알고리즘

Apriori 알고리즘은 트랜잭션 데이터베이스 또는 데이터 세트에서 연관 규칙 마이닝을 위한 전통적인 데이터 마이닝 기술입니다. 이는 거래에서 정기적으로 동시에 발생하는 사물 간의 링크와 패턴을 찾아내도록 설계되었습니다. Apriori는 지정된 최소 지원 수준으로 거래에 함께 나타나는 항목 그룹인 빈발 항목 집합을 감지합니다.

10. K-평균 클러스터링

K-평균 클러스터링은 데이터 포인트를 그룹화하는 데 사용할 수 있는 비지도 학습 접근 방식입니다. 각 클러스터의 데이터 포인트가 가능한 한 서로 유사하면서도 다른 클러스터의 데이터 포인트와 최대한 구별되도록 데이터에서 k개의 클러스터를 찾는 방식으로 작동합니다.

학습을 통해 머신러닝을 이끄는 기본 개념을 알아보세요. 상위 10개 알고리즘 선형 회귀, 의사결정 트리, 신경망 등이 있습니다.

기계 학습 알고리즘 – FAQ

1. 머신러닝에서 알고리즘이란 무엇인가요?

기계 학습 알고리즘 명시적인 프로그래밍 없이 컴퓨터가 데이터로부터 학습하고, 패턴을 발견하고, 예측하고, 작업을 완료할 수 있도록 하는 통계적 개념에 기반한 기술입니다. 이러한 알고리즘은 크게 지도 학습, 비지도 학습, 강화 학습의 세 가지 유형으로 분류됩니다.

2. 머신러닝에는 어떤 종류가 있나요?

머신러닝에는 크게 세 가지 유형이 있습니다.

  • 감독 알고리즘
  • 비지도 알고리즘
  • 강화 알고리즘

3. 예측에 가장 적합한 ML 알고리즘은 무엇입니까?

예측을 위한 이상적인 기계 학습 방법은 다음과 같이 결정됩니다. 기준의 수 , 문제의 성격, 데이터 유형 및 고유한 요구 사항을 포함합니다. 지원 벡터 머신(Support Vector Machine), 랜덤 포레스트(Random Forest) 및 Gradient Boosting 접근 방식은 예측 워크로드에 널리 사용됩니다. 반면, 알고리즘 선택은 현재 진행 중인 특정 문제와 데이터 세트에 대한 테스트 및 평가를 기반으로 해야 합니다.

4. 인기 있는 10가지 기계 학습 알고리즘은 무엇인가요?

다음은 일반적으로 사용되는 상위 10개 기계 학습(ML) 알고리즘 목록입니다.

  1. 선형 회귀
  2. 로지스틱 회귀
  3. SVM(지원 벡터 머신)
  4. KNN(K-최근접이웃)
  5. 의사결정 트리
  6. 랜덤 포레스트
  7. 나이브 베이즈
  8. PCA(주성분 분석)
  9. Apriori 알고리즘
  10. K-평균 클러스터링