Skip to content
体验新版
项目
组织
正在加载...
登录
切换导航
打开侧边栏
OpenDocCN
stanford-cs234-notes-zh
提交
874ad2a1
S
stanford-cs234-notes-zh
项目概览
OpenDocCN
/
stanford-cs234-notes-zh
通知
8
Star
0
Fork
0
代码
文件
提交
分支
Tags
贡献者
分支图
Diff
Issue
0
列表
看板
标记
里程碑
合并请求
0
Wiki
0
Wiki
分析
仓库
DevOps
项目成员
Pages
S
stanford-cs234-notes-zh
项目概览
项目概览
详情
发布
仓库
仓库
文件
提交
分支
标签
贡献者
分支图
比较
Issue
0
Issue
0
列表
看板
标记
里程碑
合并请求
0
合并请求
0
Pages
分析
分析
仓库分析
DevOps
Wiki
0
Wiki
成员
成员
收起侧边栏
关闭侧边栏
动态
分支图
创建新Issue
提交
Issue看板
前往新版Gitcode,体验更适合开发者的 AI 搜索 >>
提交
874ad2a1
编写于
1月 17, 2020
作者:
X
xiaowei_xing
浏览文件
操作
浏览文件
下载
电子邮件补丁
差异文件
test
上级
d49f7523
变更
1
隐藏空白更改
内联
并排
Showing
1 changed file
with
3 addition
and
3 deletion
+3
-3
docs/11&12.md
docs/11&12.md
+3
-3
未找到文件。
docs/11&12.md
浏览文件 @
874ad2a1
...
...
@@ -8,9 +8,9 @@
在线决策涉及到探索(exploration)与利用(exploitation)之间的基本权衡。利用(通过最大化未来收益来)制定最佳的可能的策略,而探索则采取次优动作来收集信息。虽然次优动作必然会导致近期的奖励减少,但它可能使得我们学习更好的策略,从长远来看能够改进策略。
## 2. (Multi-Armed Bandits)
## 2.
多臂赌博机问题
(Multi-Armed Bandits)
我们首先讨论在(multi-armed bandits, MABs)背景下,而非完全 MDPs 背景下的探索。MAB 是元组 $(A,R)$,这里 $A$ 表示动作的集合,$R$ 为每个动作对应奖励的概率分布 $R^{a}(r)=P[r|a]$。在每个时间步,行为体选择一个动作 $a_{t}$。像在 MDPs 中那样,行为体的目的是最大化累积的奖励。但由于不存在状态转移,所以不存在延迟的奖励或结果的概念。
我们首先讨论在
多臂赌博机
(multi-armed bandits, MABs)背景下,而非完全 MDPs 背景下的探索。MAB 是元组 $(A,R)$,这里 $A$ 表示动作的集合,$R$ 为每个动作对应奖励的概率分布 $R^{a}(r)=P[r|a]$。在每个时间步,行为体选择一个动作 $a_{t}$。像在 MDPs 中那样,行为体的目的是最大化累积的奖励。但由于不存在状态转移,所以不存在延迟的奖励或结果的概念。
令 $Q(a)=
\m
athbb{E}[r|a]$ 表示采取动作 $a$ 的真实期望奖励。我们考虑估计 $
\h
at{Q}_{t}(a)
\a
pprox Q(a)$ 的算法,该值通过蒙特卡洛评估来估计:
...
...
@@ -89,7 +89,7 @@ $$
在这个方法的基础上,置信上界算法产(Upper Confidence Bound Algorithm)生了,其过程如下。首先,我们对每个动作值估计一个置信上界 $
\h
at{U}_ {t}(a)$ 使得大概率 $Q(a)
\l
eq
\h
at{Q}_ {t}(a)+
\h
at{U}_ {t}(a)$ 成立,这依赖于动作 $a$ 被选择的次数。然后我们选择最大化置信上界的动作
$$
a_
(t)
=
\m
athop{
\a
rg
\m
ax}_ {a
\i
n A}(
\h
at{Q}_ {t}(a)+
\h
at{U}_ {t}(a)),
a_
{t}
=
\m
athop{
\a
rg
\m
ax}_ {a
\i
n A}(
\h
at{Q}_ {t}(a)+
\h
at{U}_ {t}(a)),
\t
ag{5}
$$
...
...
编辑
预览
Markdown
is supported
0%
请重试
或
添加新附件
.
添加附件
取消
You are about to add
0
people
to the discussion. Proceed with caution.
先完成此消息的编辑!
取消
想要评论请
注册
或
登录