머신러닝 오프라인 강좌를 수강해보려고 하는데요~ 이거 괜찮을까요?

Python 프로그래밍과 데이터 분석 과정의 경우에는 내용으로 봤을 때 파이썬 기초 문법을 비롯해서 자주 사용하는 모듈에 대한 사용 방법에 대해 알려주는 형태로 끝이 날 것 같네요. 구글에서 필요한 구현 방식에 대해 찾는 것이 가능하다면 굳이 들을 필요는 없을 것 같네요.

그리고 딥러닝의 경우에는 어떤 프레임워크로 다루는지에 대해 명시가 되어 있지를 않네요. 딥러닝에 사용하는 프레임워크로 Google에서 개발한 Tensorflow와 Facebook에서 개발한 Pytorch가 거의 비슷한 점유율로 사용되고 있고, 요즘 학술 분야에선 Pytorch의 비중이 점점 높아지고 있습니다.

둘 다 써본 입장에서는 아무래도 Tensorflow보다는 Pytorch가 더 편리했었습니다.

Tensorflow가 이제 2.X 버전이 stable 버전으로 바뀌었는데, 이 과정에서 생각보다 의도하지 않았던 현상이 많이 발생하는 것 같더라고요.. (메모리 해제 문제 등) 특히나 RNN의 경우에는 같은 모델로 작성했는데도 불구하고 Tensorflow에서는 학습이 안되던 것이 Pytorch에서는 훨씬 잘 일어나는 것도 있습니다. 다만 배운다고 바로 활용하기가 어려운 점이 학습 시 컴퓨터 자원이 많이 필요로 하기도 하고 필요한 데이터셋을 확보하는 것도 많은 어려움이 있습니다. 모델을 어떻게 설계할 것인지와 어떤 SGD 알고리즘을 사용할지, 그리고 learning rate는 어떻게 설정해야 하는지 등에 대한 내용을 직접 정해야 하기 때문에 정확도를 올리는 것이 어렵습니다.

또한 Keras가 도입되면서 어느 정도 괜찮아지기는 했지만 예전에는 되게 이해하기 어려운 형태로 모델을 만들어야 했었습니다. (tf.Variable을 만들어서 연동을 하는 등)

그에 비해 Pytorch의 경우에는 문법의 형태가 기존 파이썬과 많이 유사하여 쉽게 사용할 수 있다는 점이 있습니다.

알고리즘 강의의 경우에는 부족한 부분이 있네요. 보통 동적 계획법에서 확장해서 탐욕 알고리즘까지 다루는게 맞을텐데 말이지요.. 그리고 그래프 최적화는 정확히 어떤 내용인지 짐작이 가질 않네요...

다만 제가 COS PRO 1급 시험을 보지 않아서 확실하게 답변드리기는 어려울 것 같네요.

딥러닝 과정에서 설명된 목차에 대해 간략히 소개하면 다음과 같습니다.

Linear Regression : 입력된 데이터가 결과 데이터와 어떤 선형 관계를 이루고 있는지 계산하는 방법 / ex) 집 평 수와 가족 구성원 수로 소득 예측 모델 만들기

Logistic Regression : Linear Regression과 형태는 유사하지만 결과 데이터가 범주로 나와서 일종의 분류법이라고 보시면 됩니다. / ex) 온도와 습도가 주어져 있을 때 비 오는 여부 예측하는 모델 만들기

K-Means : 주어진 내용을 K개의 그룹으로 묶는 방법 / ex) 주어진 이미지를 10개의 색깔로 유사하게 표현하기.

Kernel SVM : Deep Learning 방식이 많이 사용되기 전에 많이 사용하는 알고리즘이었습니다. 선형으로 데이터를 구분하는 것이 아니라 비선형 함수로 데이터를 구분하는 방식이라고 생각하시면 되겠습니다.

Random Foreset : ?

아래 두 방법은 딥러닝에 사용하는 테크닉입니다.

Backpropagation : Deep Learning에서 학습을 할 때 무조건 쓰이는 가장 핵심적인 알고리즘입니다. 오차를 계산하여 해당 오차를 줄여주는 방식으로 값을 업데이트를 해주는 방법이라고 생각하시면 됩니다.

Batch-Normalization : 학습을 할 때 좀 더 학습이 잘 일어나도록 layer를 통과한 데이터를 처리하는 방법이라고 보면 됩니다. 모델을 작성할 때 명시를 해주면 됩니다. 이 부분은 왜 따로 챕터로 뺐는지 모르겠네요. 차라리 학습을 잘 시킬 수 있는 방식이라는 주제로 해서 그 중에 한 가지로 Batch Normalization을 포함하는 형태로 다루었으면 좋았을 것 같네요.

여기서부터는 딥러닝 모델 구조입니다.

CNN(Convolution Neural Network) : 다음 Layer를 얻을 때 특정 필터로 Convolution을 한 결과로 업데이트를 하는 방식입니다. 이미지 분류를 하는 경우 거의 이 구조라고 보시면 됩니다. 구조의 특성상 들어오는 데이터의 크기가 고정되어 있습니다.

사용 예로는 이미지 분류, 해당 이미지에서 박스로 우리가 찾으려고 하는 물체를 표시해주는 것 등이 있습니다.

RNN(Recurrent Neural Network) : 순환 신경망이라고 하며 똑같은 layer가 반복해서 사용되기 때문에 CNN과 달리 정해진 크기가 아니라 임의의 크기의 데이터가 들어올 수 있습니다. 임의의 크기가 들어올 수 있다는 점 때문에 문자열이나 음성 등의 데이터를 입력으로 사용합니다.

다만 Pure RNN의 경우에는 학습이 잘 일어나지 않는다는 단점이 있어서 이를 어느 정도 해결한 LSTM이나 GRU라는 모델이 등장하게 되었습니다.

사용 예로는 음성 인식, 임의의 문자열 생성, 번역 등이 있습니다.

최근에 Transformer라는 새로운 형태가 제안되었고 RNN에 비해 성능이 잘 나온다고 합니다.

GAN(Generatvie Adversarial Network) : 실제 같은 데이터를 만들어내는 방식이라고 생각하시면 됩니다. 해당 모델을 설명할 때 위조지폐범과 경찰로 예를 들어서 설명하는데, 위조 지폐범은 경찰을 속이기 위한 데이터를 생성하고, 경찰은 이를 잡아내는 형태로 2명 모두 학습을 하는 형태라고 보시면 됩니다. 다만 이 방식의 경우 위에서 언급했던 CNN과 RNN에 비해 학습과정에서 "훨씬 많은" 시간이 걸립니다.

예시는 가짜를 만들어내는 모든 것들이라고 생각하시면 될 것 같습니다. 최근에 이슈가 되었던 딥페이크가 대표적인 예입니다.

솔직히 말해서 5일 가지고 하기에는 시간이 엄청 부족할 것 같네요. 되게 단순하게 다루고 넘어갈 것 같습니다.

Chapter 1과 Chapter 3에 관한 내용만 다루는데 1학기가 걸렸거든요..

이번 학기에 교수님이 강의 녹화를 하셨는데, 공개가 될지 안될지는 잘 모르겠네요;;