머신러닝과 기술적 분석

최근에 회사에서 새로운 모델을 구현해보고 있다. 내가 새로운 모델을 구현할 때 또는 새로운 코딩을 할 때 사용하는 방법을 정리해봄. 1. 이론 공부는 빠르고 간단하게! : 입, 출력 구조 정도만 파악해도 된다. 이론이 안 중요하다는 것은 아니다. 하지만 처음부터 서베이 논문본다고 몇 주의 시간을 사용하는건 별로인듯 하다. 이러고 있드면 회사에서도 안 좋아한다. ㅋㅋ 나같은 경우 1번 단계에서는 서베이논문에서 대강의 개요만 살펴보거나 블로그를 참고해서 모델에 어떤 입력이 들어가서 어떤 출력이 나오는지에 대한 대략적인 구조만 파악하고 끝낸다. 2. End-to-End 오픈소스 코드를 찾아서 돌려본다 : 단 아주 작은 샘플로! 예를 들어 object dectiontion 모델을 구현한다면 깃허브에서 오픈소스를..

Youtube 추천 시스템에 관련된 논문은 2020년 11월 현재 4개가 있다. 이 논문들을 하나씩 리뷰해볼 생각이다. 이 포스트에서는 각 논문의 개괄적인 내용만 알아보도록 하자! 1) The YouTube Video Recommendation System (2010) 2010년에 나온 첫 논문이다. 구체적인 내용보다는 추천시스템에 대한 개괄적인 설명을 하고있다. 벌써 10년이나 지난 논문이고, 이 논문이후에 딥러닝의 시대가 도래하면서, 지금보면 꽤나 올드한 방식으로 보인다. 그러나 이 논문에서 사용한 2-stage 방식은 그 이후로도 계속사용하고 있고, 이 논문에서 사용한 방법들은 추천 시스템에서 전처리, 혹은 후처리에 영감을 주는 방법들이 있어 리뷰하려고 한다. (딥러닝으로 다 할수는 없으니까...)..

RANSAC은 scikit-learn 에 구현되어있고, line fitting 하는 example code 도 Robust linear model estimation using RANSAC에 친절하게 나와있다. 이걸 multiple order polynomial regression 으로 확장하기 위해서는 feature를 다항식에 맞게 확장만 해주면 된다. 예를 들어 에서 feature set 인 [X]를 에서는 feature set을 [X^2, X] 으로 확장시켜 주고 feature 가 2개인 linear regression 으로 각각의 coefficient 를 찾아주면 된다. Robust linear model estimation using RANSAC 에서 fitting curve 와 dataset을..

Machine Learning 알고리즘을 공부하다보면 Likelihood, ML, MAP 등의 용어가 나온다. 1. Likelihood 의 개념 likelihood : 주어진 1개 이상의 관측(observations) 에 대해서 가설 (parameter : 예를들면 확률분포의 평균과 분산) 이 맞을 정도를 scalar 로 수치화한 함수. 위 수식에서 처럼 확률분포 (pdf) 를 이용해서 구한다. 하지만 Likelihood 는 확률이 아니다. 모든 event 의 likelihood 총합이 1.0 이 되지 않기 때문이다. Kalman Filter 에서의 Likelihood 의 의미 likelihood : 주어진 1개 이상의 관측(observations) 에 대해서 가설 (parameter : 예를들면 확률분..

Image morphological operation 알고리즘에 대해서 정리한다. 1. 개요 Erosion Dilation Opening Closing 2. Background - 용어 정리 operation 의 동작을 알아보기 전에 용어 정리를 먼저 하려고 한다. 2.1. Structuring Element Structuring Element 는 morphological operation 에서 사용하는 Kernel 또는 Mask 이다. 예시 4-neighborhood structuring element 8-neighborhood structuring element 그 외에 임의로 element 를 정의 할 수 있다. 2.2. Background pixel / Foreground pixel Morphol..

Image Gradient 의 방향 (orientation) 의 의미가 혼란스러울 때가 있다. 정리해보자. 1. Image Gradient 의 정의 An image gradient is a directional change in the intensity or color in an image. 라고 위키피디아에 정의 되어있다. 2. Image Gradient 를 구하는 방법 3. orientation 의 방향 Y축은 아래방향이 증가하는 방향임에 주의하자. 4. Python 예제 아래와 같은 code 로 확인할 수 있다. def get_grad_center_pixel(image): dx = cv2.Sobel(image, ddepth=cv2.CV_64F, dx=1, dy=0, ksize=1) dy = cv2...

Computer Vision 쪽에 Object Detection 알고리즘 논문을 보면 성능평가지표로 mAP (mean Average Precision) 이라는 것을 이용한다. mAP 란 무엇인지 알아보고 python 으로 구현하는 방법을 정리하자. Contents mAP (mean Average Precision) python code 1. mAP (mean Average Precision) 먼저 용어해석을 통해 mAP 가 대략적인 의미를 알아보자. Precision : 분류기의 성능평가지표로 사용하는 Precision-Recall 에서의 Precision과 같은 의미이다. 인식기 (object-detector) 가 검출한 정보들 중에서 Ground-Truth 와 일치하는 비율을 의미한다. AP (Ave..

분류기 (Classifier) 의 성능을 평가하는 Metric 에는 Precision/Recall 이 있다. 볼 때 마다 헷갈리는 2가지 성능평가지표를 정리해두자. Contents Confusion Matrix Precision / Recall 의 계산 방법과 수식의 해석 1. Confusion Matrix Confusion Matix 란 Binary Classfier 의 Prediction 결과를 2x2 Matrix 로 나타낸 것이다. Confusion Matix 의 element 를 정하는 규칙은 다음과 같다. 1) 첫번쨰 Term : Prediction 과 Ground Truth 의 일치여부로 True/False 를 정한다. 2) 두번째 Term : Prediction 결과에 따라 Positive/..