二.向量是空间中移动的对象
向量的模、夹角和投影模与内积模（Modulus）从几何视角看待向量，它就是一个有方向、有大小的线段(如下图)。
这个关于向量的简单描述（仅仅从几何视角，没有引入任何分解析方法）有如下含义：
有方向就是指箭头所指那个方向
有大小是指这个线段是有长度的(length, norm, modulus,
...
Untitled
Fundamental Knowledge for Deep Learning & Natural Language ProcessingThis list just includes the core of related knowledge in deep learning and na
...
一.线性代数和数学在机器学习中的介绍
Posted on
|
In
课程笔记
,
Mathematics for Machine Learning
,
Linear Algebra
|
|
Visitors:
Words count in article:
学习目标
Recall how machine learning, vectors and matrices are related.
Interprest how changes in the model parameters affect the quality of the fit to th
...
机器学习中的信息论
Quantification of Information- From the perspective of a Specific Field为防止markdown渲染出现问题，提供一份pdf版的下载，链接
***
近代通讯及计算机等学科的重要基础之一是信息论，核心内容涉及信息的产生、获取、表示、专
...
一.The Learning Problem
前言这一系列文章是我在学习台大林轩田教授的机器学习课程的笔记，要比较好地理解相关内容，需要以下学科的基础知识：
微积分
概率论
统计
线性代数
A productive programming language (e.g. Python, C++, etc.)
PS: 如果有一点优化（optim
...
Language Model-(二)
Markov Models在上一篇文章中对语言模型进行了感性认知和形式化地定义，并给出一个最简单的LMs,虽然它不强大。
现在基于我们之前的形式化定义，系统性地分析：如何estimate 一个句子的联合概率？
考虑一个随机变量序列，$X_1,X_2,…,X_n$ . 每个随机变量的取值都可能是 $\
...
Language Model-(一)
感性认识-什么是Language Model
感性定义：能够对一个词序（word sequences）赋予一个合理的概率的模型，我们称之为语言模型-Language Model[^1]。
例子：
“我明天请你去吃…..”
上述这个句子是一个所谓的 word sequences, 最后一个词是
...
Product in Linear Algebra
线性代数(Linear Algebra)中的向量(vector)、矩阵(Matrix)、张量(Tensor)之间涉及最基本的运算之一就是：Product，本文对此做一个简要的总结。
一. Vecotr-Vector MultiplicationDot product(or inner product
...
Attention in NLP(二)
什么是Self-Attention?哈哈，这是一个测试。
$\textcolor{red}{哈哈，这是一个测试。}$
Self-Attention 的几个variants1.2.具体应用领域Natural Language InferenceSemantic Role LabelingSemanti
...