Skip to content

Commit

Permalink
chapter 10: break some long sentences into short ones
Browse files Browse the repository at this point in the history
Mainly for "One way to draw the RNN is with a diagram containing one node for every component that might exist in a physical implementation of the model, such as a biological neural network."
  • Loading branch information
zhenhuaw-me committed Oct 24, 2017
1 parent f350b82 commit faf7822
Showing 1 changed file with 6 additions and 6 deletions.
12 changes: 6 additions & 6 deletions Chapter10/sequence_modeling_rnn.tex
Original file line number Diff line number Diff line change
Expand Up @@ -129,14 +129,14 @@ \section{\glsentrytext{unfolding}\glsentrytext{computational_graph}}

% -- 366 --

\eqnref{eq:105h}可以用两种不同的方式绘制
一种方法是为可能在模型的物理实现中存在的部分赋予一个节点,如生物神经网络
在这个观点下,网络定义了实时操作的回路,如\figref{fig:chap10_rnn_circuit_unfolded}的左侧,其当前状态可以影响其未来的状态。
在本章中,我们使用回路图的黑色方块表明在时刻$t$的状态到时刻$t+1$的状态单个时刻延迟中的相互作用
另一个绘制~\glssymbol{RNN}~的方法是展开的\gls{computational_graph},其中每一个组件由许多不同的变量表示,每个\gls{time_step}一个变量,表示在该时间点组件的状态
\eqnref{eq:105h}可以用两种不同的方式来绘制
一种绘制~\glssymbol{RNN}~方式是用循环图,对于可能存在于模型的物理实现中的每个组件,都在图中包含其对应的节点。这种方式的一个示例是生物神经网络
在这种视角下,网络定义了实时操作的回路,如\figref{fig:chap10_rnn_circuit_unfolded}的左侧,其当前状态可以影响其未来的状态。
在本章中,我们使用回路图中的黑色方块表示单个\gls{time_step}延时所发生的交互,即从时刻$t$的状态到时刻$t+1$的状态的变化
另一种绘制~\glssymbol{RNN}~的方式是用展开的\gls{computational_graph},其中每一个组件由许多不同的变量表示,每个\gls{time_step}一个变量,用来表示组件在该时间点的状态
每个\gls{time_step}的每个变量绘制为\gls{computational_graph}的一个独立节点,如\figref{fig:chap10_rnn_circuit_unfolded}的右侧。
我们所说的\gls{unfolding}是将左图中的回路映射为右图中包含重复组件的\gls{computational_graph}的操作。
目前\gls{unfolded_graph}的大小取决于序列长度。
这样\gls{unfolded_graph}的大小取决于序列长度。

我们可以用一个函数$g^{(t)}$代表经$t$步展开后的循环:
\begin{align}
Expand Down

0 comments on commit faf7822

Please sign in to comment.