[Foundation of Supervised Learning] part 1 - 1

🎯 Keyword 🎯

- Supervised Learning
- Learning pipeline
- Hypothesis f
- Learning model

 

 

여러 고양이 사진

이 동물의 이름은 무엇인가요?

 

여러분은 위 질문을 보고 바로 귀여운 고양이다 ! 라고 말할 수 있습니다.

 

위 귀여운 고양이를 보고 여러분은 동물학적인 정의로 고양이입니다라고 하기 보다는 경험적으로 알게 되었다고 할 것입니다.

 

Machine Learning도 이와 같이 Data로부터 내재된 패턴을 학습하는 과정입니다.

 

image recognition problem, 집값의 추이 분석, 통계 분석 은 다음과 같이 분류할 수 있습니다.

 

Machine Learning Problem

 

• Binary Classification
• Multiclass Classification
• Regression

 

Machine Learning은 다시

 

Supervised Learning과 Unsupervised Learning으로 나눌 수 있습니다.

 

둘의 큰 차이는 Supervised Learning은 label이 있는 것이고, Unsupervised Learning은 laebl이 없는 data인 것입니다.

 

요약하면 아래와 같습니다.

 

---

                                                                                                    Regression     => Continuous output

                                            Supervised Learning ------->     Classification =>  Discrete output

                                            (Labeled Data)

Machine Learning - - - > 

                                            Unsupervised Learning ------->  Clustering

                                            (Unlabeled Data)                             Dimensional reduction

---

 

Supervised Learning의 Data Set은 입력 x와 출력 y의 쌍으로 구성이 되어 있습니다.

 

Supervised Learning의 목적
"x -> y가는 함수 h를 학습하는 것"

 

 

 

Learning pipeline은 다음과 같이 이루어집니다.

 

• 초기에는 Machine Learning model 이 잘 학습하지 못함.
• 그러나 우리가 가지고 있는 Data set label로부터 , 우리가 가지고 있는 정답으로부터 이 출력을 학습함.
• model의 parameter 값을 변경해 나감. 
  • Supervised Learning에서는 model output과 정답과의 차이인 Error를 통해서 error를 줄여가며 학습함.
  • 학습 Sample이 주어지므로 가능한 것.

 

 

Test 단계 (모델이 환경에 적응하는지 확인)

 

- > training과 입력 Data 다름.

 

 

 

Input Feature

-> 해당 분야의 전문 지식이 있어야 classification에 효과적인 feature를 도입하기 어려울 것입니다.

-> Input Feature의 Design은 관련 분야의 전문성을 가진 전문가와 함께 해결할 수 있습니다.

 

   => 그러나 최근 딥러닝 모델은 이러한 feature 역시 스스로 학습하기 때문에 Domain knowledge로부터 비교적 자유로운 편입니다.

 

 

 

Binary Classification

=> Output -> Yes or No

 

 

Target Function

-> 달성하기 어려운 이상적인 함수, 모델

=> 수많은 data를 통해 target function에 근접한 모델을 만드는 것이 우리가 할 수 있는 일입니다.

=> 이 Target Function을 hypothesis H 라고 정의하고 우리가 가지고 있는 모델이 바로 "Machine Learning"입니다.

 

 

Target Function F 를 위해서 다음과 같은 단계를 거칩니다.

• fearture selection
• model selection
• optimization

 

Model Selection

-> 우리가 풀고자 하는 문제에 가장 적합한 모델을 선정하는 것.

     -> 그 중에는 선형 모델도 존재하고 Neural Network와 같은 비선형 모델도 존재합니다.

 

Optimization

-> 모델 Parameter를 바꾸어 model이 가장 우수한 성능을 제공하도록 하는 것입니다.