매일 들어오는 글 가운데, TTJ가 한 번 더 읽어본 것들. 코딩과 AI 시대를 가로지르는 글로벌 동향을 한곳에 모았습니다.
## 손실이 갑자기 치솟았는데 결과가 더 좋다고? 신경망을 학습시킬 때 가장 신경 쓰는 하이퍼파라미터 하나가 **학습률(learning rate)**이에요. 이게 뭐냐면, 모델이 오답을 보고 "그럼 가중치를 이만큼 고쳐볼게" 할 때 그 '보폭'의 크기예요. 너무 작으면 학습이 한없이 느리고, 너무 크면 발산해서 모델이 망가진다고들 배우죠. 그래서 보통...