RNN
RNN(循环神经网络) 用来处理序列化输入,分为以下几种 本质: 通过一些internal state把序列连接起来 \(h_t=f_w(h_{t-1},x_t)=\tanh(W_{hh}h_{t-1}+W_{xh}x_t)\\ y_t=f_{W_{hy}}(h_t)=W_{hy}h_t\) 注意: 所有的时间步共享一个权重矩阵 反向传播的时候采取截断的反向传播法 ...
CS231n Homework 2
CS231n Homework 2 Batch Normalization Inline Question 1: Describe the results of this experiment. How does the weight initialization scale affect models with/without batch normalization differen...
CNN的训练及其架构
CNN 的训练及其架构 几种归一化方法 Layer Norm def layernorm_forward(x, gamma, beta, ln_param): """ Input: - x: Data of shape (N, D) - gamma: Scale parameter of shape (D,) - beta: Shift ...
视频理解
视频可以看成4D Tensor :$T\times 3 \times H \times W$ 占用内存很大: 30 frames/s,每个frames 有640*480个像素,每个像素三个channal,每个channal占1个字节 所以有$3\times 640 \times 480 \times 30$个字节约等于26MB/s 视频分类:给一段视频对视频进行分类 Idea1:在低...
卷积神经网络(CNN)
CNN 用来提取图像特征,分为两个算子$Convolution\ operrator$ 和$Pooling\ operator$ 历史发展 文档分类 $\Rightarrow$ AlexNet(Imagenet 文本分类) $\Rightarrow$ CNN dominate all vision tasks $\Rightarrow$ Transformer 时代 文...
雅思写作词汇积累
动态图 上升 increase / rise /grow /climb /soar/ rocket /surge / go up/ascend rise / increase/growth 下降 decrease/decline/drop/ diminish/descend/dip; plunge; fall/go down decrease/drop/decline/fall ...
雅思写作题型: 动态图
| 折线图 | 柱形图 | 饼状图 | 表格 | | —— | —— | —— | —- | 内容提取 图表概述:Selecting and reporting the $\color{red} \text{ main feature}$ 对相关信息进行对比分析 写作内容 写作结构(四段式) Introduction Overview ...
雅思写作题型、考试形式及评分标准
考试形式 任务要求(1小时两作文) Task 1 Task 2 写作类型 图表写作 议论文写作 字数要求 >=150 词 >= 250词 建议用时 20...
雅思口语词汇积累
Idiom 开心 We $\color{red}\text{had a whale of a time}$ at tne party last night. 伤心 I $\color{red} \text{felt a bit down in the dumps}$ when I found out I was rejected by my dream job 时间/地点 Sin...