[DAY 03 - 5/26] 멘토링 #51
Heeseok-Jeong
started this conversation in
Peer Session
Replies: 0 comments
Sign up for free
to join this conversation on GitHub.
Already have an account?
Sign in to comment
-
멘토님께 뭘 질문할까요?
멘토링을 하면서 어떤 것들을 얻어가고 싶은지
각자의 지향점
방향성 : 협업(1)과 실험(2), 점수(3)에서 (2)와 (3)의 비율을 높이되 (1)을 어느정도 유지하고 싶다.어떤 멘토링을 기대하는 지 (기존의 멘토들의 어떤 점들이 좋았다, 안 좋았다 등..)
향후 계획 (취업/진학/복학 등)
피어세션
희석님이 develop에 merge를 하실 예정.
멘토링
방향성 : 협업(1)과 실험(2), 점수(3)에서 (2)와 (3)의 비율을 높이되 (1)을 어느정도 유지하고 싶다. 어떤가요??⇒ 사실 협업이 제일 어려운 건데 갖춰져있으면 확실히 초기 자본을 많이 갖고 계신거다. 이걸 바탕으로 다양한 실험을 해보시면 좋겠다.
⇒ 하나를 잡는게 좋긴 하다. 온전히 competition을 가지고 갈지(모델 하나 잡고 파라미터 수정), research를 목표로 가지고 갈지(논문, 모델을 직접 만들기)(결과가 엄청 좋진 않았다) // 큰틀을 확고히 하는게 좋을 것 같다.
⇒ 뭐가 좋다라고 하기보다는, 멘토님도 kaggle을 많이 해보지 않았다(gpu싸움이 된다). 그래서 competition이 효율적인가? 하지만 어떤 모델을 이용해 성능을 최대한 끌어올리는것도 중요
⇒ 개인적으로는 competition을 full하게 참여한게 이번 2월.
⇒ 기존 pipeline이나 협업이 기반이된다면 대회는 언제든 참여할 수 있다고 생각하심
⇒ 다양한 시도는 크게 2가지 : 모델을 가지고 하이퍼파라미터를 튜닝할지(성능 조금 더 끌어올리기), 내 아이디어를 모델에 코드로 녹이며 내 아이디어가 녹아들어간 세상에 하나밖에 없는 코드를 만들건지
⇒ dkt는 생소하기때문에 처음 보셔서 힘들수도 있다
⇒ 실험을 잘 관리하는 법, 취업, 진학같은데에 도움을 더 드릴 수 있을 것 같다.
→ 오전에는 거의 없고 1시쯤 일어나시기 때문에 오후에 답장이 굉장히 빠릅니다 ㅎㅎ
마지막 주차에 CV나 그런거에 관련해서 각자 보여드려도 될까요?**→ 굉장히 좋습니다. 포트폴리오 관련, CV에 관련해서 질문 많이 받았는데 필요할 때 아무때나 좋습니다! 봐주세요~~해주세요 ㅎㅎ
→ 멘토단도 굉장히 훌륭한 개발자, 연구원이 아닙니당. 바로 회사 가신분은 연구에 대해 잘 모르실수도 있고. 그래서 멘토링은 치어리더같은,,ㅎㅎ,,,기술적 내용보다는,,ㅎㅎ,,
→ 멘토님 배정이 분야가 다른곳에 배정되어서 아쉽습니다..
→ 적절히 채찍질을 해볼게요 ㅎㅎ
→ 산업기능요원보다는 석사를 먼저 추천 드립니다.
→ dkt분야인 산타토익에서 산업기능요원 많이 뽑습니다.
flow관련해서 하나만 더 잘하시면 좋을 것 같은 점→ 4명끼리는 communication이 잘 이뤄지겠지만 새로운 사람이 왔을 때 우리의 flow에 쉽게 적응 할 수 있게 만들어진 flow인지 맞춰보는게 중요
→ 만약 새로운 사람이 맞출 수 있는 flow면 정말 잘한 점이다.
→ 만약 애나님이 어려워하신다면 더 간결하게 해야하거나 복잡하다는 의미
dkt?→ 최근 trend부터 찾아보시기를 추천합니다.
→ 관련 대회의 discussion을 열어보는것도 굉장히 추천드립니다. 큰 insight를 얻을 수 있어요
→ 통계적 방법을 이용해 하이퍼파라미터 search나 data에 관해 창우님이 좋은 idea를 얻을 수 있을 것 같습니다.
→ 창우님만의 idea, insight를 활용하는 것도 정말 좋을 것 같습니다. (통계나 수학이 어떻게 쓰일 수 있을 지)
code review를 정말 빡세게 하던 조가 있다.→ 병걸린 사람처럼 하심
→ 매일 코드리뷰, 클린코드 지향
→ 변수명, flow, class설계 집착
→ 처음엔 굉장히 늦지만, 후반에 가니까 고민 할 게 없어 실험만 돌리는 조도 있었다.
→ 이렇게 처음부터 flow를 잘 설정한다면 새로운 실험을 얼마나 편하게 할 수 있을지, 모델을 어떻게 잘 추가할 수 있을지 고민하면 정말 좋스빈다.
→ 나중에는 실험만 돌리고 앙상블하고 실험 돌리고 앙상블하고 이런시긍로 해야 점수를 잘받을 수 있다.
→ idea검증이 굉장히 중요하다. 여기서는 dropout이 더 좋을것 같다. batch normal보다.
→ 처음에는 gpu를 놀린다고 생각할 수 있지만 insight를 정리 해 놓은 후 나중에 한꺼번에 실험하는게 더 좋을 수 있다.
→ 이런 방식 꽤 잘한 것 같다는 멘토님의 생각
**새로운 task?**→ 재능입니다. 주니어때는 재능을 못이겨요.
→ 최대한 재능러랑 비슷하게 하는 방법 : 다양한 분야를 다 해보는 것.
→ 학부생때 단백체? 연구실 음성처리? 졸업하고 나서는 뇌과학, 회사에서는 NLP
→ 하나도 겹치지 않습니다.
→ 좋게 얘기하자면, 어떤 데이터가 들어와도 자신만의 노하우로 잘 볼 수 있다.
→ 안풀리는 케이스는, 하나에대한 major가 없어지고 찔끔따리로 하는 느낌.
→ 하지만 이런 케이스가 task에 쉽게 적응 할 수 있는 방법이라고 생각합니다.
→ 창우님께 해당하는데, 통계쪽에서 학부 졸업까지 다 마치셨으면 웬만한 논문들에 대한 수식 이해는 다 하실 수 있다 생각. 기본적인걸 이해할 수 있다면 논문을 읽기 쉬워지고, 그럼 code만 보면 된다.
→ 컴공은 수학이 약해진다. 그럼 컴공은 basic한 idea를 이해하는게 중요. 내부 어떻게 동작하는진 모르겠지만, 수식도 모르겠지만, 코드로 짤 수 있는 상태가 컴공학도로써 나아가기 쉬운 방향
→ 통계는 fundamental한 것들을 잘 이해 → 논문 잘 이해 → 그리고 난 후 코드를 보기
→ dkt를 맣이 하지만 다른 프로젝트를 하는 것도 좋아요
→ 다른 프로젝트를 따로 또 하시는분들도 계시더라구요. 같이 해보시는것도 좋은 것 같습니다.
→ 짜여진 환경 외에, 처음부터 뭔가를 해보는것도(NLP라면 데이터 구하고 전처리 하고 가공하는것도 해보는것)좋다. 이미 이 팀은 합이 잘 맞으니까여 여기서 같이 하세여
→ 이 분야는 할게 많아요. 논문, 대회, 수학, 코드 등등등
→ 그치만 그만큼 대우를 많이 받습니다. 시간투자 많이 하세요
→ 프젝을 뒤에서 많이 해도 second정도만 두시고 여기 dkt에서 많이 얻으시는것도 좋습니다.
→ 회사들어가면 퇴근해서 논문 한두편은 봐야합니다 AI는 특히
→ bert로 모델링 하다가 project가 4개월 미뤄졌는데 이제 더이상 bert를 안쓰게됨. electra를 새로 배워서 사용하게 되는 것. 처음부터 해야한다.
→ 이렇게 회사에서 업무는 업무대로 하고 개인적인걸 하나씩 가져가야한다.
→ AI는 내 업은 하나씩 두고 뒤에서 하나씩 하는게 중요합니다.
→ trend가 너무 빨리 변해서,, 평생 공부해야합니다. 내가 해왔던 library가 몇개월 뒤 쓸모없게 됩니다.
→ 멘토님도 실험을 계속 바꾸고 바꾸고 했다. 근데 안바꾸면 경쟁력에서 밀린다. 바꿔야만 함
→ 여기 외적으로도 공부하고 여기도 집중하고 계속 커리어를 쌓을 수 있도록 이렇게 많이 하셔야합니다
→ 코테도 준비하세요. 코테 많이 어렵습니다.
→ 카이스트 연구원으로 네이버에서 한명 추천했는데 코테 떨어져서 오셨대여
→ 꾸준히 코테 하세요 취준하시는 분들
→ 대학원은 이론적인 부분 계속 하는게 좋아요
→ 여러분들의 baseline이 얼마나 파워풀한지 모릅니다.
→ 어떤 실험을 계획하는지? 어떤 상황인지 보고 다시 말씀드리겠습니다.
→ 첫 취업은 18년도입니다. 그래서 지금도 중요한진 모르지만, 신입한테 가장 중요한건, 기본적인 지식이 가장 중요합니다.
→ 어플리케이션을 할 수 있는 신입은 많습니다. 학부 졸업 안해도 할 수 있어요
→ 그럼 기본적인 앎을 중요시 합니다.
→ 기본적인 것을 알면 새로운것을 알기 쉽기 때문입니다.
→ ex) nlp에 대한 이해가 별로 없는데 transformer만 잘하는사람이 있어요
→ transformer가 죽었으면, 그사람은 처음부터 해야합니다.
→ nlp에 대한 기본적인걸 알고있으면, 새 idea가 들어왔을 때 적응하고 적용하기 쉽습니다.
→ + ex)자료구조를 잘하는 사람이 운영체제를 잘할 가능성이 높습니다.
→ 운영체제에서 잘 받아도 뒷 과목에서 자료구조 못하면 잘 받을 가능성이 적다.
→ fundamental이 가장 중요해요.
→ batch normalization을 설명하세요. 하고 칠판주면 설명할 수 있는 사람이 별로 없습니다.
→ 기본적인게 중요합니다.
→ 머신러닝, 기초통계, 선형대수학 또한 마찬가지입니다.
→
면접 문제 ex)우리 차원을 줄이는 방식으로 나아가야합니다. SVM은 차원을 확장하는 식으로 바뀌게 되는데 얜 잘된다. 왜 잘될까요?→ SVM만 질문해도 모르는 사람이 많습니다. 이것도 모르는데 ML 엔지니어로 일한다? 이상합니다.
→ 기본적인것들을 많이 물어봅니다.
→ 되게 웃긴게, 프젝을 위해서는 이런거에 발목잡히는게 안됩니다.
→ 너무 괴리가 큰데, 면접을 위해 따로 외워야하나요?
→ 학점과 개발같은 느낌입니다. 외울건 외우고 이해할 건 이해하고.
→
[기본적 지식, 내가 해온 프로젝트에 대한 이해]두개가 중요!→ hard한 질문은 내가 해왔던 프로젝트 기반으로 질문합니다. ex)내가 해결하기 위해 무엇을 하였나요?
→ 추가적으로는, 최신 trend에 대해 물어봅니다(너 정말 이쪽에 관심 있어? 스스로 흥미있어서 파악하고 그래?)
→ 양질의 코드, 협업을 하면서 느꼈던 장단점, 내가 이 프젝에 기여할 수 있었던 점, 이 프젝에서의 장단점
→ 코드와 결과를 취업에서는 평가하기가 쉽지 않다.
→ 그러니 어떤 문제가 생겼을 때 어떻게 해결했는지.
→ ex) 4명이 같이 협업하는데 한명이 덮어버려서 conflict가 일어났을때 어떻게 하시겠어요?
→ 개인적으로 git에 관해 session이 있었으면 좋겠지만 잘 쓰신다니 좋네요 ㅎㅎ
→ 오히려 취업을 준비하시는 분들은, CV도 중요하고, 부캠에서 한 것을 PPT 3장으로 짧게 어필하시면 좋을 것 같네요
부담갖지말고 불러주세요~~~
Beta Was this translation helpful? Give feedback.
All reactions