[네부캠 AI Tech] 1주차 회고 🤓

합류 소식에 기뻐했던 게 어제 같은데, 어느 새 1주차의 마지막 날도 거의 끝나간다 😅

막상 시작해보니 웃으면서 끝을 볼 수 있을지는 잘 모르겠...는 (?) 첫 주차의 회고를 남겨본다.

 

목차

---

일별 소감 & 배운점

# 231106 대망의 첫 날

소감 🤭

후다닥 수강할 강의량을 훑어보았는데, 오.. 생각보다도 훨씬 많았다 !!

나는 Python 보다는 수학에 훨씬 약하니까 AI Math 부터 차근차근 듣기로 결심했다

첫 날이라 앞으로의 과정에 대한 소개, 내 소개, 팀 소개를 하느라 정신이 없었다.

 

배운점 📚

벡터, 행렬을 어떤 관점에서 보느냐에 따라 연립방정식을 풀어낼수도, 선형회귀분석을 할 수도 있음

행렬은 데이터도 되고, operator도 될 수 있음

역행렬이 없으면? 가짜 역행렬을 사용할 수 있고, 식과 변수의 개수에 따라 A+를 만드는 수식이 달라지는구나!

 

# 231107 혼자가 아니라 팀과 함께 성장하자

 

소감 🤭

앞으로의 계획을 팀원들과 공유하고, 함께할 계획을 세우면서, 걱정반 기대반 !!

 

배운점 📚

고등학생 때 배운 합성함수, 로그, 거듭제곱의 미분은 전개에 필수조건이다.

경사하강법만 있는 게 아니라, 경사상승법도 있다!

딥러닝 프레임워크의 자동미분은 혁신적인 거였다. 손으로 직접 해보려니, 기호도 손에 익숙치 않고, 말로 설명해보려니 뭐라고 읽어야할지..쩝...;;

 

# 231108 어? 나 수학 좋아하네? 근데 쉽지 않네?

 

소감 🤭 (+ TMI)

경사하강법 전개하고, 증명 찾고, 예전에 배운 기억을 더듬어 대입해보니 재미있다. 근데 어렵다. 근데 재미있다. 근데 어렵다.. 열심히 해야지....!

딥러닝 프레임워크를 쓰면 알잘딱깔센으로 해줬는데, 다시 보니 그렇게 넘어갈 게 아니었다..

추천 트랙 캠퍼들은 대부분 INT... 이다. 개발자 국룰인가..

 

배운점 📚

소프트맥스는 학습할 때는 확률로 바꿔줘야 하니 필요하나, 추론할 때는 최대인 logit만 알면 되니 필요없다.

미니배치(SGD)가 풀배치(GD)보다 딥러닝에서 잘 먹히는 이유: 풀배치는 매 학습마다 데이터 전부를 쓰므로, local minima에서 미분계수 0에 도달하면 더 이상 학습하지 않음. 그러나 미니배치는 매 학습마다 데이터를 확률적으로(랜덤하게) 선택하기 때문에, 목적식의 곡선이 미니배치 데이터에 맞게 조금씩 바뀜. 이 때문에 미분계수 0이 다음 epoch에서는 0이 아닐 수 있게 되고, 이는 local minima를 빠져나올 가능성을 주게 됨. 하지만 배치의 크기에 따라 수렴 속도가 GD보다 낮을 수도 있어서, hyperparameter인 batchsize가 매우 중요함!

 

# 231109 헉...언제 다듣지

 

소감 🤭

돌아보니 너무 천천히 들었다. 강의량이 너무 많다.. 어쩔 수 없이 후다닥 듣고, 제대로 정리도 못해버렸다. 다음주도 바쁠텐데 언제 다 듣냐..

임승빈 마스터님의 마클이 있었는데, 거의 눈물이 찡할 정도로 감명 깊었다. 겉핥기식 답변이 아니라 인사이트 덩어리를 전달해주셔서 강의를 들을 때도, 마클에서도 눈물이 광광. 한마디한마디 곱씹으면서 새겨둬야지...!

첫 멘토링도 있었는데, 멘토님도 최고 그 자체. 열심히 달려서 멘토님 도움받아 더더욱 성장해야짓!

 

배운점 📚

수학의 용어와 노테이션은 쿡 찌르면 알 정도로 달달 외워야겠다. 적어도 이 시간 동안 배운 것들은 그렇게 만들자.

VAE 논문리뷰를 한 적이 있었는데, 확률 너무 몰라서 눈물 흘리면서 공부했었다. 가능도는 확률분포의 모수가 데이터를 설명할 가능성을 말하는 것, 주변확률분포, 사전확률, 사후 확률이 뭔지 그 어떤 자료, GPT, 강의... 보다 명쾌했다. 이제 다시 논문 리뷰하면 훨씬 더 이해가 잘 될 듯.

 

# 231110 심화과제 어렵다. 조교님 최고!

 

소감 🤭

일주일이나 온라인으로 부대꼈더니, 우리 팀 전보다 편해지고 친해진 듯하다. 이제 존댓말도 잘 안나오네 !!

조교님들의 심화과제 설명이 있었는데, 조교 아니고 그냥 교수도 아니고 학부생들이 좋아하는 교수 그 자체. 짧은 강의로는 이해되지 않는 것들을 조교님의 설명을 따라가며 들으니 오히려 쉬운 느낌이었다.. 최 고 그 자 체 ㅠ

 

배운점 📚

부랴부랴 남은 강의 듣느라 넘 바빴다..

+ 심화과제를 조금씩 풀어보다가, 오늘 제대로 쥐어보았는데, 음... 나 코딩 못하네? 아니 정확히 말하면 수식-코딩 잇는 거 쉽지 않네?

레이어 단위가 아니라, 함수, 합 수준의 로우 레벨로 내려오니 코드 한 줄 한 줄이 잘 안쓰여진다.. 그래도 하나 알았을 때의 기쁨은 keras로 모델 쌓았을 때의 기쁨보다 훨씬 크다.

---

1주차 총평 🤔

너무나도 바쁘고 긴장되지만, 동시에 희망차고 설레이는 일주일이었다

현업에서 기초 지식으로 부딫힐 때마다, 막막하고 더 이상 나아가기 어려울 것 같다는 우울한 생각이 자주 들곤 했는데, 이 시간을 알차게 사용하면 내가 원하던 것을 모두 채울 수 있을 것 같다. 물론 열심히 해야겠지만.

내가 몰라서 그런건데 물어봤다가 다들 엥? 하면 어떡하지 라는 생각에 질문을 안하고 구글링만 dz게 한 적이 많고, 사실 지금도 조금 그런데 이 기간을 잘 활용해서 당당하게 질문할 수 있는 사람이 되자 !!! 공통 채널도 있지만, 팀 채널도 있고, 우리팀끼리 있는 시간도 많으니까 !! 한 발씩 나아가쟈 !!!

 

일주일만에 수학 파이썬 마스터? 말 안된다. 그러니까 수학 수식 하나하나 계속 붙잡고 늘어지지 말고, 모르면 질문, 이 정도 했으면 충분히 했다! 라는 생각 들 때는 넘어갈 줄도 알자 !! 다음주에는 강의 밀려듣지 말자. 그리고 코어 타임에 빡집중 가쟈!!!