[머신러닝] 베이지안 최적화(Bayesian optimization): 베이즈 정리
입력값과 출력값의 관계를 나타내는 함수가 엄청나게 복잡해서, 예를 들어, 입력값을 넣으면 계산해서 결과를 얻는 데까지 1시간이 걸린다고 하자. 이때 출력값을 최대로 하는 입력값을 찾고 싶다면, 즉 변수를 최적화하고 싶다면? 주어진 입력값의 범위 내에서 가능한 조합을 도출하고, 이를 함수에 넣어서 값을 보고, 이러한 출력값들을 봐가면서 내가 넣어준 입력값이 최적의 값을 주는지 확인할 수 있을 것이다. 그런데, 입력변수가 하나가 아니고, 여러개이고, 만약 범위가 넓다면? 게다가 함수까지 복잡해서 한번 함수(모델)를 계산하는데 엄청난 시간이 걸린다면? 사실상 이런 방법으로는 최적화가 불가능할 것이다. 다시 말해서, random search, grid search 같은 방법은 입력 변수가 많아질 경우 가능한 조..
2021. 11. 2.
