1. 스토캐스틱 그래디언트 디센트 (Stochastic Gradient Descent) 방법 ㉮ 초깃값 설정 ㉯ 전체 데이터를 임의로 섞어줍니다. ㉰ 전체 데이터에서 개수가 m개인 부분집합(배치, batch) 들을 만듭니다. ㉱ 각 부분집합마다 다음을 반복합니다. - 부분집합으로 그래디언트를 계산합니다. - 계산한 그래디언트의 반대 방향을 탐색 방향으로 설정합니다. - 주어진 학습률을 그대로 사용합니다. - 파라미터 추정치를 업데이트합니다. ㉲ 만들어진 부분집합 (=batch) 을 모두 사용한 후 다시 ㉱를 Epoch번 반복합니다. #SGD batch_size = 5 Ir = 0.1 #학습률 MaxEpochs = 10 #반복횟수 paths =[] batch_loss =[] #1)초깃값 w0 = np.ar..
