Attention 前传NLP中Attention的基本思想是：当处理一个句子[^1] 的时候，不是平等地关注句子中所有的部分[^2]，在每个时刻应该有选择地关注最应该关注的部分，而其他部分则相对地忽略。这种对不同部分关注程度不一样的机制就称为“attention”，它是通过赋予句子不同部分不同的权 ...

to-do (in coming 2 days)

Begion et al. 2003todo Schwenk 2006to Collbert and Weston 2008to Chen and Manning 2014todo ##

$\color{blue}{Updating \cdots}$在概率或者统计中，多元正态分布（多元高斯分布）是一元正态分布的扩展。其定义为: 定性描述 一个$k$维的随机向量，如果其$k$个分量的任意线性组合所构成的那个随机变量，都是一元正态分布的话，那么我们就说这个$k$维随机向量是服从$k$元正 ...

sort()具体形式：iterable.sort(cmp[, key[, reverse]])12a = ['3','5','1','7']a.sort() 要点： sort()是list的方法，只能用于list而不能用在其他的iterable对象 会修改调用它的list对象本身 sorted ...

Numpy的核心功能是围绕ndarray（多维数组）展开。多维数组是计算机科学的概念，其与数学概念的对应关系如下：1-d array $\longleftrightarrow$ $\color{blue}{vector}$2-d array $\longleftrightarrow$ $\color ...

本文旨在说明自然科学基金面上项目计划书纸质版在交大内部提交流程，涉及如何打印，去哪里、找谁签字或盖章，最后交给谁的问题。 计划书打印 双面打印 一式两份 盖章 课题负责人签字 财务部门盖章 去主楼A 205 找相关老师办理用印单。（期间要复印计划书中的某些页，205就有复印机，可就地复印） 拿着上 ...

检查conda 是否安装以及在你系统的path中 1conda -V 升级 conda 1conda update conda 创建一个虚拟环境 1conda create -n yourenvname python=x.x anaconda or 1conda create --name y ...

常用属性xxx 常用method12换列名pd.rename(columns = {key:value}, inplace = True) key：我们想替换的原始列名value：我们最终要的列名

[TOC] 什么是梯度？GDSGDMini-bacth SGD更新历史