fitnet에서 학습알고리즘으로 trainscg를 사용하고 있는데, 하이퍼파라미터 최적화를 어떤 식으로 진행하면 되는지 궁금합니다.

1. hidden layer는 [10, 30, 30]으로 최적화 기법을 통해서 결정했습니다.
2. 현재는 모든 하이퍼파라미터를 디폴트 값으로 설정해서 학습을 하고있습니다.
3. 디폴트 값으로도 학습은 잘되는데, 하이퍼파라미터를 더 최적화 해 볼 수 있는 기법이 있는지 궁금합니다.

Answer 1

[Angelo Yeo]

안녕하세요. Hyperparameter optimization으로 검색하면 많은 정보들을 얻을 수 있을 것이라 생각됩니다.

가령 이런 블로그가 이론적인 배경을 이해하는데 도움을 줄 수 있겠네요. https://simpling.tistory.com/m/52

MATLAB에서는 앱 형식으로 해당 기능을 아주 간단하게 사용해볼 수 있습니다. 위의 이론 설명에서 볼 수 있는 내용들이 구현되어 있으니 이론 지식을 갖추고 보는 것이 도움이 될 것 같습니다. 아래의 문서를 확인해주십시오. https://kr.mathworks.com/help/stats/hyperparameter-optimization-in-classification-learner-app.html