#TD 학습

Записей: 1 · Разборов статей: 1 (всего 2)

POST

Записи блога

POST 개념 정리

강화학습의 근간 (4): 몬테카를로와 TD — 그리고 둘을 잇는 TD(λ)

모델 없이 경험만으로 가치를 추정하는 두 가지 길 — 에피소드 전체 수익으로 갱신하는 몬테카를로와 한 스텝 추정으로 갱신하는 TD — 를 편향-분산 관점에서 대비하고, n-step return과 λ-return(forward view)으로 둘 사이의 스펙트럼을 잇는다. TD(0)에서 시작해 backup이 종단 노드까지 확장되면 정확히 MC가 되는 수식(λ=1의 극한), 그리고 같은 것을 온라인으로 계산하는 eligibility trace(backward view)와 두 관점의 동치까지.

Читать далее
PAPER

Разборы статей

PAPER 강화학습 · Value Methods

TD 학습: 결과가 아니라 다음 예측으로 배우다

최종 결과와의 오차로 배우는 지도학습 대신, 연속된 두 예측의 차이로 배우는 시간차(TD) 학습을 형식화한다. TD(λ) 계열을 정의하고, TD(1)이 Widrow-Hoff와 동치임을, 선형 TD(0)가 마르코프 과정에서 최적 예측으로 수렴함을 증명하며, 다단계 예측 문제에서 TD가 지도학습보다 메모리도 덜 쓰고 더 정확함을 보인다.

Читать далее