본문 바로가기

TIL51

[Boostcamp Lv2] Week7-Day30. CNN Visualization :: seoftware 목차 1. 강의정리 1-1. CV - chap6-1. CNN Visualization 1-2. CV - chap6-2. AutoGrad 📜 강의 정리 [CV] Chapter6-1. CNN Visualization 1. CNN Visualization은 무엇일까? CNN 내부의 weight들을 시각화해보니 위와 같은 특징이 있었다. Low-level에서는 선분, 점 등의 특징을 추출하고, High-level에서는 디테일한 특징을 추출한다. 위와 같은 특징들을 시각화하는 방법은 모델을 분석하는 Analysis of model behaviors와 출력을 분석하는 Model decision explanation으로 나뉜다. 위에서는 Parameter examination에서 Filter visualization.. 2021. 9. 16.
[Convolutional Neural Networks] Foundations of Convolutional Neural Networks :: seoftware 📜 강의 정리 * Cousera 강의 중 Andrew Ng 교수님의 Convolutional Neural Network 강의를 공부하고 정리한 내용입니다. * 이미지 출처 : Deeplearning.AI Computer Vision Image Classification, Object Detection, Neural Style Transfer 등이 Computer Vision에 포함된다. Edge Detection Example convolution filter를 통해 아래와 같이 featrue를 뽑아낼 수 있다. 초기 layer에서는 큰 특징, 후반 layer에서는 detail한 특징이 추출된다. conv filter(=kernel)이 어떻게 작용 방법은 input 이미지에 대해 conv filter가 .. 2021. 9. 13.
[Structuring Machine Learning Projects] ML Strategy 2 :: seoftware 📜 강의 정리 * Coursera 강의 중 Andrew Ng 교수님의 Structuring Machine Learning Projects 강의를 공부하고 정리한 내용입니다. * 이미지 출처 : Deeplearning.AI Error Anaylsis 1. Carrying out Error Anaylsis 고양이 분류 데이터셋에 강아지 사진, great cat(치타, 표범, 호랑이 등) 사진, 흐릿한 사진등이 섞여있다고 하면 학습 성능을 끌어올리는데 방해가 될 것이다. 그렇다고 모든 데이터의 에러를 수정하는 건 쉽지 않다. 따라서 100개 정도의 데이터셋을 뽑고 아래와 같은 표에 정리를 해서 몇 퍼센트가 오류가 있는 데이터셋인지 확인한다. 2. Cleaning up Incorrectly Labeled Dat.. 2021. 9. 13.
[Structuring Machine Learning Projects] Why ML Strategy :: seoftware 📜 강의 정리 * Coursera 강의 중 Andrew Ng 교수님의 Structuring Machine Learning Projects 강의를 공부하고 정리한 내용입니다. * 이미지 출처 : Deeplearning.AI Introduction to ML Strategy There are some strategy for improving your system(model). These strategy can make your system work effectively and quickly. 머신러닝을 효율적으로 하는 사람들은 어떤 효과를 위해 어떤 하이퍼파라미터를 튜닝해야하는지 뚜렷한 안목을 가지고 있다. 이런 하이퍼파라미터를 튜닝하는 과정을 Orthogonalization(직교화)라고 부른다. 전체적인 .. 2021. 9. 12.
[Boostcamp Lv2] Week6-Day25. Image classification | VGG11 구현 :: seoftware 목차 1. 강의정리 1-1. CV - chap1. Image Classification 1 2. 과제 2-1. Assignment1_blank.ipynb (vgg11) 3. 피어세션 정리 4. 데일리 회고 📜 강의 정리 [CV] Chapter1. Image classification 1 컴퓨터비전은 왜 인공지능일까? 인공지능의 정의를 살펴보면, 인간의 지능을 모방하는 것이다. 컴퓨터비전은 사람의 눈을 대신하는 기술이기 때문에 인공지능이라고 할 수 있다. 이상적인 이미지 인식 방법은 세상의 모든 이미지를 학습시키고 k-nn 방식으로 비슷한 이미지를 고르는 것이지만, 모든 데이터를 학습시키는 것도 어렵고 모든 데이터에 대한 비교를 하는 것도 현실적이지 않다. Single fully connected laye.. 2021. 9. 7.
[Improving Deep Neural Network] Week 2. Optimization algorithms :: seoftware 📜 강의 정리 * Coursera 강의 중 Andrew Ng 교수님의 Improving Deep Neural Networks: Hyperparameter Tuning, Regularization and Optimization 강의를 공부하고 정리한 내용입니다. * 이미지 출처 : Deeplearning.AI Optimization Algorithm 1. Mini-batch Gradient Descent Having fast optimization algorithms, having good optimization algorithms can really speed up the efficiency of you and your team. Vectorization allows you to efficiently c.. 2021. 9. 5.
[Image Classification] Week5 Daily Report :: seoftware > : 카메라로 촬영한 사람 얼굴 이미지의 마스크 착용 여부를 판단하는 Task 🟢개인적인 의견 및 시행착오 과정은 초록색 🌼 Day20 Multi-outputs에 대한 코드 변경 내용 작성 dataset.py 변경 전 : 18개의 클래스가 원핫벡터로 표현 변경 후 : 마스크 착용 여부, 성별, 연령대에 대한 분류 별로 멀티 아웃풋 model.py 백본 네트워크 : Xception (multi head) Xception의 feature에 마스크 착용 여부(wear, incorrect, not wear), 성별(male, female), 나이대(30↓, 30~59, 60↑)를 구분하는 3가지 classifier를 붙였다. 1 feature, 3 classifier timm에서 제공하는 xception 모델.. 2021. 9. 3.
[Boostcamp]Week4-Day18. Training & Inference :: seoftware 목차 1. 강의정리 1-1. P stage - chap7. Training & Inference 1 1-2. P stage - chap8. Training & Inference 2 2. 피어세션 정리 3. 데일리 회고 📜 강의 정리 [P stage] Chapter7. Training & Inference 1 🌈 Loss, optimizer, metric에 대해 알아보자 1. Loss loss backpropagation : output과 target 간의 loss를 구한 후 역전파 loss function 선택 중요 nn.Modules Family loss.backward() : 이 함수가 실행되면 모델의 파라미터의 grad 값이 업데이트. loss부터 input까지 체인 연결 조금 특별한 loss Fo.. 2021. 8. 26.
[Boostcamp]Week4-Day17. Model :: seoftware 목차 1. 강의정리 1-1. P stage - chap5. Model 1 1-2. P stage - chap6. Model 2 2. 피어세션 정리 3. 데일리 회고 📜 강의 정리 [P stage] Chapter5. Model1 : Model with PyTorch 🌈 Pytorch라는 프레임워크가 가지는 특성과 Pytorch를 사용하여 모델을 구성하는 방법을 알아보자 모델 : In general, a model is an informative representation of an object, person or system. 1. pytorch Open Source Machine Learning Framework 런타임으로 정의되는 다이나믹한 그래프를 볼 수 있음. 유연함. Low-level, Pytho.. 2021. 8. 25.