#Multi-Armed Bandit

Записей: 1 · Разборов статей: 1 (всего 2)

POST

Записи блога

POST 개념 정리

강화학습의 근간 (5): 탐험의 이론 — Multi-Armed Bandit, Regret, 그리고 UCB

탐험-활용 딜레마를 상태도 전이도 없는 가장 순수한 형태로 격리한 Multi-Armed Bandit 문제를 형식화하고, 알고리즘의 성적표인 regret을 정의한다 — regret의 gap 분해, greedy와 고정 ε-greedy가 선형 regret을 벗어나지 못하는 이유, 로그가 넘을 수 없는 바닥임을 밝힌 Lai-Robbins 하한, 그리고 "불확실하면 낙관하라"는 원리를 Hoeffding 부등식으로 구현해 그 바닥에 도달하는 UCB1까지. 이 이론이 ε-greedy의 좌표와 UCT·알파고의 탐색 규칙이 서 있는 지반이다.

Читать далее
PAPER

Разборы статей

PAPER 강화학습 · Bandits & Exploration

UCB1: 유한 시간에, 균일하게, 로그 regret — 탐험 이론의 표준 도구

Lai-Robbins가 점근적으로만 보였던 로그 regret 최적성을, 표본 평균에 Hoeffding 신뢰 상한을 더해 최대인 팔을 당기는 한 줄짜리 정책 UCB1로 모든 시점에서 균일하게 성립하는 유한 시간 부등식으로 바꾼 논문. 분포에 대한 사전 지식도 하이퍼파라미터 스케줄도 없이 작동하는 이 단순성이, 이후 UCT·MCTS·알파고의 선택 규칙과 낙관주의 기반 탐험 전반의 표준 부품이 됐다.

Читать далее