본문 바로가기

분류 전체보기200

[네부캠 AI Tech] 6주차 학습 정리 🤓 목차 학습 정리 & 배운점 # 231211 이날 하루는 포스팅을 했다. # 231212 학습 정리 및 배운점 📚 - 3강 듣기 - latent factor model: 유저나 아이템을 축약된 벡터 공간에 표현할 수 있다는 아이디어. - SVD는 수학적으로 분해, MF는 SVD의 일반화된 버전으로 유저와 아이템 행렬의 선형적인 관계를 SGD로 캡처하여 학습하는 방법. MF를 ALS로 학습하면, loss가 parameter에 대해 convex 형태가 되어 학습이 더 쉬워지며, 병렬 처리가 가능해져 더 효율적인 학습 가능함 - hybrid 접근법: weighted, switching, mixed 까지는 이해가 가는데, Feature combination, augmentation 등은 이해가 잘 안됨 - GBT.. 2023. 12. 15.
[네부캠 AI Tech] 6주차 첫째 날 학습 정리 + 일기 목차 그냥 일기 + 배우면서 생각한 것들 기록 오늘 한 일 - Book Rating EDA 따라가기 - 도메인 기초 대회 계획하기 - 1,2강 강의 수강 - 최종 프로젝트 팀업 관해 생각하기 Book Rating EDA 따라가기 - 추천 트랙의 데이터는 오픈소스 데이터라 코드만 조금 조심하면 되어 다행..(인가?)이다! - kaggle에서의 누구보다 빠른 EDA 파일 올리기! 를 시도하고 싶었는데, 이 플랫폼에는 노트북 업데이트 기능이 따로 없고, 이미 well-established EDA 파일이 있어서 머쓱하게 따라가보는 중이다. 나는 데이터를 유랑하며 발굴하는 것을 매우매우 즐기는 사람인데, 남이 EDA 해놓은 것을 보니, 새로운 메서드와 인사이트가 보여 개척하는 맛과는 다르게 배울 수 있어서 좋았다.. 2023. 12. 12.
공부기록 - 선형대수 원서보기1 (~7p) 목차 배경 부캠에서 마스터님의 추천을 받은 선형대수의 대가 Gilbert Strang의 linear algebra and its application 원서를 구매했다. 고등학교 때부터 행렬을 점프(내 고등교육과정에서 행렬 뺀 사람 머리박아)하고, 자연과학+부전공 특성상 하필 그 때는 선대의 중요도를 모르고 엔지니어링 강의만 들었는데, 지금 너무나 후회된다. 조기졸업 하지말고 초과학기 다녔어야 했는데... 뭐 지금 후회하면 뭐하나? 후회가 후회될만큼 지금 열심히 하면 되는 거 아닌가? 라는 생각으로 boost course에서 강의도 들어보고, 이후에도 DL 이해에 필요할 때마다 조금씩 공부는 했지만, 접근 방법을 아주 살짝만 비틀어도 이해가 안되는 터라, 공부하는 당분간 제대로 파보려고 한다. 화이팅!! .. 2023. 12. 10.
[네부캠 AI Tech] 5주차 학습 정리 🤓 목차 추후 내용을 약간 보충할 예정. 학습 정리 & 배운점 # 231127 학습 정리 및 배운점 📚 [ GNN 기반의 추천 시스템 ] - graph - 그래프란? 노드와 엣지로 구성된 자료구조. 개체 간 관계를 표현하기 적절함. 코로나의 전파, 유저-아이템 소비, social network에 주로 쓰임 - Graph Convolution: 컨볼루션은 이미지와 같은 2D, 3D 유클리디안 공간에서 지역적 특성을 캡처하기 위한 연산자. 그래프 컨볼루션은 non-euclidian 공간에서 엣지로 연결된 local connectivity를 캡처함. - NGCF - neural graph collaborative filtering의 약어로, 그래프 기반의 협업 필터링 방법론 - 기존 MF 방식들은 유저와 아이템 .. 2023. 12. 8.
[네부캠 AI Tech] 4주차 학습 정리 🤓 목차 학습 정리 & 배운점 # 231127 학습 정리 및 배운점 📚 - 전반적으로 개념들을 정돈할 수 있는 기회가 됨. - 다양성, 참신함, 새로움, 관련성 뿐만 아니라 비즈니스 측면에서 매출, CTR, PV 를 높이는 방향으로 시스템을 개발해야 한다는 것을 짚게 됨 - 인기도 기반 추천은 단순히 평점이 높거나 view가 높은 게 아니라, 최신성과 신뢰도를 반영해야 하며, 각 기업 및 플랫폼마다 목적에 맞게 지표(formula)를 개발하여 사용한다는 것을 알았음. - MAP의 수식에서.. AP에서 m이 뭘까 했는데, 모든 아이템 중에서 사용자가 좋아한 아이템 수라고 한다. Average Precision을 구할 때는 Pr@1 ~ Pr@K의 산술평균(K로 나눔)이 아닌 사용자가 좋아한 아이템 수로 나누어서.. 2023. 12. 1.
[네부캠 AI Tech] 3주차 학습 정리 🤓 목차 학습 정리 & 배운점 # 231120 계획을 모두 달성한 활기찬 월요일! 학습 정리 🤭 - 딥러닝에서 데이터, 모델, 목적 함수, 학습 알고리즘 이 네 가지 요소가 매우 중요하고, 당연하게 적용하는 것은 절대적으로 없다는 사실을 항상 유념해야 함. 내 목적을 달성하기 위해 적합한 방법인지 자꾸만 다시 묻는 습관이 필요할 듯 - Denny Britz의 white paper 한 번은 읽어보는 것이 좋겠다. Residual connection은 "딥"러닝을 가능케한 방법론으로 깊은 층을 쌓아도 일반화 성능이 떨어지지 않고, 모델이 더 복잡하고 중요한 표현을 학습할 수 있게 함. GAN에서 언급된 캐나다의 술집에 꼭 가봐야지 🍻 혹시 나도 획기적인 아이디어가 떠오를지 몰라.. Transformer는 Cha.. 2023. 11. 24.