■ 검증 데이터지금까지 훈련 데이터와 시험 데이터라 두 가지로 분리해 이용해왔다. 훈련데이터는 학습을 하고, 시험 데이터로는 범용 성능을 평가했다. 여기서 주의할 점은 하이퍼파라미터의 성능을 평가할때는 시험 데이터를 사용해서는 안된다. 시험 데이터를 사용하여 하이퍼파라미터를 조정하면 하이퍼파라미터 값이 시험 데이터에 오버피팅 되기 때문이다. 하이퍼파라미터 값의 '좋음'을 시험 데이터로 확인하게 되므로 하이퍼파라미터의 값이 시험 데이터에만 적합하도록 조정되어 버린다. 따라서 하이퍼파라미터 조정용 데이터를 일반적으로 검증 데이터(validation data)라고 부른다. [정리]훈련 데이터: 매개변수(가중치와 편향)의 학습에 이용검증 데이터: 하이퍼파라미터의 성능을 평가하는데 이용시험 데이터: 신경망의 범용..