소소한 블로그

이미지 분류 경연을 위해 간단한 multi-class 이미지 분류기를 end-to-end 구현해봤습니다. 혼자 모델을 구현해본 적이 없기 때문에, 아래 사항들에 초점을 맞춰 대략적인 base line code를 작성해봤어요. 1) 아주 간단한 Custom Model 정의 (※ net과 net사이의 parameter 개수 고려) 2) 주어진 데이터셋에 맞춰 Custom Dataset 정의 3) Dataset에 넘겨줄 input data, label data 가공 (※ csv와 파일명으로부터 labeling 진행) 4) Training이 진행되는지 확인 5) 훈련된 Model로 부터 Inference 어떤 점이 개선되어야 하는지는 구현에 대한 설명을 끝낸 후 소개해드리겠습니다. 아래는 제가 작성한 코드에 대..

이번 경연의 평가는 F1 Score 통해 진행됩니다. F1 Score의 개념이 생각나지 않아 구글링을 해봤습니다. ㅎㅎ 아래는 F1 Score에 대해 간략히 정리한 내용입니다. 시작하기에 앞서 한가지 질문을 해보겠습니다. 여러 feature가 주어지고, 8월 특정 날에 최고기온이 30도가 넘는지 예측하는 모델을 만든다고 가정해봅시다. 만약 해당 모델이 어느 상황에서나 단순하게 항상 True를 출력한다고 해도 정확도( 정답인 경우 / 테스트 개수 )는 아주 높을 것 입니다. 따라서 정확도( 정답인 경우 / 테스트 개수 )만을 모델의 성능 측정에 이용한다면 발생하는 문제점은 많을텐데요, 이러한 경우를 보안할 수 있는 개념이 F1 score입니다. F1 Score을 정리하기에 앞서 알아야할 2가지 개념이 있는..

이번 글은 VSCode를 이용하여 원격서버에 SSH 접속하는 방법을 간략히 정리할 것입니다. 여담을 말해보자면, 저번 주에는 과제 핑계로 정리 글을 한 번도 쓰지 않았습니다 ㅜㅜ 이번 주부터는 부담 없이 조금씩이라도 기록을 남기려고요. 어쨌든 하루하루 새롭게 배우거나 혹은 잊고 있던걸 다시 보게 되는 경우가 분명히 있으니깐요. 특히 이번 주부터는 실습 위주로 교육이 진행되는데 저는 모델 구현 능력을 기르고 싶은 마음이 크기 때문에 더더욱 하루하루를 잘 정리해야겠다는 생각이 듭니다. P stage 경진 대회에서는 v100서버가 제공됩니다. 이를 위해 서버에 원격접속을 해야합니다. 서버에 접속하는 방법은 여러가지가 있습니다. 저는 항상 PuTTY를 이용하여 원격서버에 접속했지만, 이번에는 VSCode를 통해..

오늘 수업에서 Gradient Descent Methods에 대해 잠깐 소개되었습니다. ( Stochasic gradient descent, Momentum, Nesterov accelerated gradient, Adagrad, Adadelta, RMSprop, Adam ) 총 7가지네요ㅎㅎ 아무래도 한정된 시간에서 교육이 진행되다 보니, 각 방법에 대한 설명은 아주 간단하게 넘어갔습니다. 개인적으로 아쉬워서 각 방법에 대해 더 공부해봤습니다! 제가 본 자료들 중에 아래 논문이 가장 도움이 많이 되었습니다. 이번 게시물도 아래 논문을 기준으로 풀어냈습니다. https://arxiv.org/pdf/1609.04747.pdf 저는 각 방법에 대해 deep하게 다루기보다는 간략한 개념과 아이디어에 대해 소개..

점점 기록의 중요성을 느끼고 있습니다. 전에 배운 내용이지만 시간이 지나면 자연스레 잊혀지게 되더라구요. 이번 게시물에서 다룰 내용도 전에 배웠지만 까먹은(ㅎㅎ) 개념입니다. 이제부턴, 배웠다는 사실만 남고 내용은 잊혀진 개념들을 마주칠 때마다 블로그 글로 리뷰하려고 합니다. 이번에는 Entropy, Cross-entropy의 개념을 다뤄보겠습니다. [Impurity Function] Entropy를 이해하기 위해서는 먼저 impurity function(불순도 함수)를 이해할 필요가 있습니다. impurity function의 정의는 아래와 같습니다. 더보기 쉽게 풀어 쓴다면 impurity function은 (p1, ..., pk)를 input으로 삼고 있습니다. 또한 모든 input값을 합하면 1이..

AI Math 7강에서 나오는 MLE(maximum likelihood estimation)에 대해 정리해봤습니다. 학부 때 분명히 전공 수업을 열심히 들었는데 그때 배운 지식이 어디론가 모두 증발해버렸습니다ㅎㅎ 강의에 나오는 것 중심으로 정리해봤습니다. 일단 MLE를 설명하기 전에 Parametric method 개념을 알아야 합니다. 데이터의 집합이 있다고 가정합니다. 만약 이 데이터 집합이 특정 확률분포를 따른다고 가정한다면, 그 분포를 결정하는 parmameter가 있을 것입니다. 쉬운 예시로 데이터가 정규분포를 따른다고 했을 때, 평균과 표준편차가 해당 확률분포의 parameter가 됩니다. 위와 같이 특정 확률분포를 따를 것이라고 가정하고 parameter를 추정하는 방법을 parametric..

과제 skeleton code에서 unit test와 관련된 부분이 이해되지 않아 정리해봤습니다. 파이썬에서는 단위 테스트를 위해 unittest라는 단위 테스트 프레임워크를 지원하고 있습니다. 많은 활용이 가능하겠지만, 개인적으로는 사용자로부터 입력을 받아야 하는 모듈이라든지 출력문(print)의 형식을 확인해야할 때 유용한 프레임워크라고 느꼈습니다. unittest에 대한 자세한 설명보다는 활용법을 통한 간단한 소개를 드리려 합니다. 예를 들어 아래와 같은 함수가 있습니다. def main(): user_input = input("Input non-negative number : ") if user_input.isdigit(): print("Valid") else: print("Invalid") 이 ..

이번 문제는 two pointer에 대한 문제입니다. 문제 출처: https://programmers.co.kr/learn/courses/30/lessons/67258 코딩테스트 연습 - 보석 쇼핑 ["DIA", "RUBY", "RUBY", "DIA", "DIA", "EMERALD", "SAPPHIRE", "DIA"] [3, 7] programmers.co.kr 더보기 문제 설명 [본 문제는 정확성과 효율성 테스트 각각 점수가 있는 문제입니다.] 개발자 출신으로 세계 최고의 갑부가 된 어피치는 스트레스를 받을 때면 이를 풀기 위해 오프라인 매장에 쇼핑을 하러 가곤 합니다. 어피치는 쇼핑을 할 때면 매장 진열대의 특정 범위의 물건들을 모두 싹쓸이 구매하는 습관이 있습니다. 어느 날 스트레스를 풀기 위해 보..