[네이버 부스트캠프 AI Tech 5기] 12주차 회고록 - DKT 대회 종료

4주간의 DKT 대회가 끝났다. 마지막주에는 팀원들을 만나기 위해 서울로 올라왔다. 확실히 온라인으로 소통하는 것보다 오프라인이라 빠르게 의견을 공유하고 팀원들과 같이 진행할 실험들을 한번에 할 수 있었다. 하지만, 풀타임 집중해야해서 끝나고 나면 진이 쭈욱 빠지고 미팅장소까지 왔다갔다가 하는 시간이 아깝긴 했다. 그래도 목요일 대회가 끝나고 회식을 했는데 재밌었다. 대회동안 전체적인 협업과정이나 R&R, PM의 부재 등등 아쉬운 것도 많았지만, 피쳐엔지니어링 방법, Valid_set을 test_set과 비슷하게 하기, Shap, Sweep 등 다양한 실험을 해볼 수 있어서 얻은 것도 많은 대회였다.

Fact(사실 : 무슨 일이 있었나?)

• 오프라인으로 카페에서 대회 마무리
• Feature Engineering으로 만든 피쳐들을 시퀀스 모델에 넣었음
• LGBM 뿐만 아니라 XGBoost로도 실험
• 최종 앙상블로 성능향상, AUC 기준 0.79의 벽을 넘어 0.8040을 달성(사용한 모델, LGBM+ translstm_graph) → Public에서 10등 , 최종 7등
• 멘토링에서 시스템 디자인에 대해서 배울 수 있었음
• 이력서 작성 마무리
• 팀원들과 대회 종료기념 회식
• 서울 여행

Feeling(느낌: 무슨 느낌이 들었나?)

• 오프라인으로 진행하다보니 빠른 피드백과 의견 공유가 가능해서 좋았음
• 하지만 서울에서 지인의 집을 빌려 쓰다보니 잘 때 서로 불편한 것이 아쉬움
• 대회 리더보드에서 성능이 계속 낮게나와 우울했지만 최종 점수에서 등수가 올라서 조금 기뻤음. 등수에 연연하면 안되지만 어쩔 수 없었음 ㅠ →

Finding(배운점 : 어떤 인사이트를 얻었나?)

• 마지막날에 다른 팀들이 발표를 대회 진행방법 및 솔루션에 대해 발표를 했음 → 첫번째 대회에서 부족한 점들을 보완하자는 목표가 인상적이었음. 추가로 전체적인 팀목표에 대해서 구체적으로 정한 것이 인상적임
• 마스터님의 설명을 듣고 대회를 진행할때 누구나 다 하는 프로세스에서는 나중에 이 경험을 면접관에게 어필할때 전혀 도움이 되지 않을 것 같았음. EDA하고 전처리하고 모델링하고 평가하고 이 과정을 누구나 다할 것이며 그렇게해서 난 1등했다 라는 내용으로는 전혀 어필이 되지 않은 느낌이었음. 오히려, 새로만든 피쳐의 영향력을 확인해보기 위해 단변량 분석으로 ECDF를 진행해 보거나 AUC평가를 위해 BPRLOSS를 확인해보는 등등의 차별적인 실험이 나중에 이력서나 자소서에 도움이 될 것 같음 → 하지만 매번 고민해도 어떻게 해야할지 떠오르지가 않는단 말이지…

Future action(향후 행동)

• 등수에 휘말리지 않기 위해 초반에 팀목표를 구체화하는 것이 정말 중요함. 예를 들어, 베이스라인을 그대로 사용하지말고 파이토치 템플릿 사용하기, 깃허브 컨벤션 정하고 깔끔하게 마무리하기, 실험과정 공유를 위한 툴(JIRA) 사용하기, hydra 사용하기, 관련 논문 찾아보고 실험 적용하기 등등
• 팀회고 하다가 나온 내용인데 서로의 실험에 대해 모르고 그냥 복붙, 일방적 소통으로 진행했던 것을 개선하고자 함 → 모두가 다른 사람의 실험까지 알 수 있도록

Feedback(피드백)

• 건강관리!