이전 글 🧑‍💻 모각코 6주차 보러가기.

👀 오늘의 할 일

• 👨‍💻Binary Classification 예제, Bank data classifcation 실습 계속..
• 👨‍💻iOS 공부 계속..

저번 주에는 인공지능 특강을 수강했다. 같은 기간에 스위트프를 이용한 아이폰 앱 개발특강도 잡혀있었지만, 스위프트와 iOS는 혼자 공부가 가능하다는 판단 하에 KAIST 공동 주관-2020년 상반기 문제 해결형 인공지능 기술개발 교육을 선택했다. 컴퓨터공학과 입학 전부터 항상 관심이 있었던 인공지능 분야였지만, 막연히 어렵다 생각하여 선뜻 공부해보지 못하고 있었는데, 이번 기회를 통해 공부해보게 되었다. 개념 위주의 설명을 통해 Linear Regression, Binary Classification, CNN, RNN, GAN을 공부하였고, Google의 Colab을 통해 TensorFlow와 Keras, 그리고 각종 라이브러리들을 활용해 실습해볼 수 있는 좋은 기회였다. 하지만 역시 강의를 듣는것과 완벽히 내것으로 만드는 것에는 차이가 있었고, 남은 방학 기간 동안은 iOS와 딥러닝을 병행해 공부하기로 마음먹었다.

이번 모각코 모임은 교내 2학생회관의 99카페에서 진행하였다.

👨‍💻 Binary Classification 예제, Bank data classifcation 실습 계속..

Kaggle에서 Bank Marketing Dataset을 받아 실습했다. 이전 은행 마케팅 캠페인을 보고 다음 은행 마케팅 캠페인을 예측하는 문제이다. 이미 어제부터 실습을 진행하던 상태라, 데이터 정리를 끝마치고 모델을 만들어 학습을 시키는 단계이다.

지금 직면한 상황은 학습하였을 때 cost의 계산 결과가 nan (not a number)로 나오는 문제이다. bias의 문제, Y행렬의 사이즈문제를 의심해봤지만, 문제가 아닌것 같았다. Google을 통해 찾아보다 Tensorflow KR 에서 log 내부에 이상한 숫자가 들어가서 계산이 잘못 이뤄지는것이라는 글을 발견했다. log 내부에 들어가는 수 중 잘못될 수가 무엇이 있나 생각해 보던 중 Weight와 bias가 보였다.Weigt와 bias는 tf.random_normal()함수를 통해 초기화했는데, 이 값이 이상하게 들어가서 nan이 뜨는것으로 추론했고, 이를 대신해서 저번주 특강에서 배웠던 Xavier initializer를 사용해보기로 했다.

이를 통해 cost가 정상적으로 계산되는것을 확인할 수 있었다. 그러나 여전히 cost는 높았고, 예측결과도 이전 47%에서 50%정도로(..) 다 찍어도 그 정도는 나올수준 이었다. 그래서 이번엔 step수를 10000로 증가시켜보았다.

여전히 cost는 0.69로 수렴하였고, accuracy도 52%를 유지했다. learning rate를 올려보기도 했지만 효과가 없었다. Kaggle사이트에서는 이 데이터에 대해서 이렇게 직접 모델을 만들어 접근하는 방법을 사용하지 않은 노트북들밖에 없어서 참고할만한 노트북이 없었다. learning rate를 조절해도 변하지 않는것을 보면 local optimal에 빠진 것 같지는 않았고, 무언가 데이터에 문제가 있다는 생각이 들었다.

👨‍💻 iOS공부 계속..

Bank marketing dataset을 이용한 binary classificastion 실습에 너무 헤매이는 바람에 시간조절에 실패, iOS공부를 하지 못했다. 😢

~다음 전 글 🧑‍💻 모각코 8주차 보러가기.~