简介 In order to optimize the fitting parameters of a fitting function to the best fit for some data, we need a way to define how good our fit is. This ...

简介 If we want to find the minimum and maximum points of a function then we can use multivariate calculus to do this, say to optimise the parameters ( ...

学习目标： 掌握幂级数对函数的近似 理解线性化的意义及关联 学会多元函数的近似表示方法 Taylor Series for approximationsTaylor级数的核心思想是： 对于一个复杂函数$f(x)$, 我们希望用若干其他简单函数的组合去近似$f(x)$, 并且我们的目标函数$f ...

学习目标 应用多元链式法则对复合函数求梯度 解释神经网络的结构和其代表的函数 解释神经网络的结构和其代表的函数 编程实现反向传播算法 多元函数链式法则（Chain Rule）上节课讲过基于 Chain rule 我们可以求出3元复合函数的全导数(参考第二课，《多元函数的导数》)。现在我们将这 ...

学习目标 1.学习将微积分应用到多变量的情况 2.掌握向量、矩阵在多元微积分中的作用 3.Jacobian方法在二元问题中的应用 多元的含义记得我们上节课说到”变量这个概念是context-dependent 的”，意思就是说：如果在一个函数中出现多个符号，哪些是variable，哪些不是，那个 ...

学习目标 1.了解微积分的概念 2.介绍导数的形式化定义 3.三大求导法则：加法、乘法、链式法则 导数的定义导数（derivative）, 是用来衡量函数随着自变量变换而变换的速度的量。 $f(x)$ 是一个以$x$ 为自变量的函数（或者这样说，$f(x)$ 是一个作用于自变量$x$的函数），其 ...

学习目标 认识什么是特征向量、特征值？ 能够应用数学公式在实际情况中 构建对高维度特征系统的认知 什么是Eigen-Things?特征值、或者特征向量等概念是依赖于线性变换这个基础概念而存在，并非可以独立存在的概念。 在线性代数的领域中，一般讲到线性变换也就等同于说一个matrix。因此，我 ...

学习目标 把矩阵看成是一种操作 把做变换的矩阵与其另外一组基联系起来 基于这些transformation matrices来写代码实现这些映射 写代码找到标准正交基 矩阵是一种映射To-DO…(这部分恐怕得参考 Gilbert strang的教材和我的笔记去完善。。) 矩阵变换-> ...

学习目标 理解什么是矩阵以及矩阵如何对应一个变换 解释并计算矩阵的逆和行列式 判断矩阵是否可逆 矩阵：对向量的操作矩阵、向量及线性方程组考虑下面方程组，$$\begin{align}2x_1+3x_2=8\\10x_1+x_2 = 13\end{align}$$我们可以将上述方程写成矩阵的形 ...

Perceptron Hypothesis SetReview of previous lecture上节课程讲过，机器学习的整个架构可以用下图表示 核心部分是：Learning algorithm $A$ take $\mathcal{D}$ and $\mathcal{H}$ as inpu ...