统计学基础（核回归）
本文介绍了统计学中的核回归方法，并铺垫了非参数化统计方法等一些基础知识。 1. 基本知识 1.1. 回归 1.2. 近邻回归 1.3. 核回归 2. 参考文献 1. 基本知识 1.1. 回归 回归分析（Regression Analysis）是一种统计学上分析数据的方法，目的在于了解两个或多个变量间是否...
SIRLIS
最优控制基础（微分方程的解法）
本文介绍了最优控制的数值解法的基础知识，包括微分方程的数值解法。 1. 多项式局部近似 2. 多项式插值 2.1. 拉格朗日插值 2.2. 重心拉格朗日插值 2.3. 切比雪夫节点 3. ODE-IPV的数值解法 3.1. 时间推进法 3.1.1....
深度学习基础（高斯过程）
本文介绍了高斯过程，包括高斯函数、多元高斯分布、高斯过程。 1. 一元高斯分布 2. 多元高斯分布 3. 高斯过程 3.1. 概念 3.2. 举例 3.3. 高斯过程回归 3.3.1. 构建高斯过程先验 3.3.2. 求解超参数 3.3.3. 测...
VSCode部署R开发环境
本文介绍了基于 VSCode 的 R 开发环境的搭建方法。 1. 简介 2. 下载与安装 3. 配置 R 开发环境 3.1. 安装 R 语言 3.2. 安装 LanguageServer 3.3. 安装扩展 3.4. 测试 R 环境 4. 安装 R 程辑包 5. 参考文献 1. 简介...
PyTorch基础（随机数种子）
本文主要记录自己学习 PyTorch 过程中涉及的一些基础知识。 1. 随机数 1.1. 随机数产生 1.2. 随机数种子 2. 参考文献 1. 随机数 1.1. 随机数产生 随机数广泛应用在科学研究，但是计算机无法产生真正的随机数，一般成为伪随机数。它的产生过程：给定一个随机种子（一般是一个正整数），根据随机算法...
深度学习文章阅读（深度流体可视化）
本文介绍了 2020 年 Raissi 等发表在 Science 上的一种根据流体可视化结果来学习速度和压力场的方法，称为隐流体力学（hidden fluid mechanics）。 1. 引言 1.1. 网络框架 1.2. 损失函数 1.3. 仿真 1.3.1. 圆柱体遮挡的外部流动 ...
深度学习文章阅读（广义TS模糊系统）
本文介绍了 2001 年 Taniguchi 等提出的一种广义 TS 模糊系统的建模方法、规则约减和鲁棒控制方法。 1. 引言 2. 传统 TS 模糊系统 3. 广义 TS 模糊系统 3.1. 建模 3.1.1. 系统建模 3.1.2. 模糊化表示 3.1.3. 举例 ...
深度学习文章阅读（模糊注意力轨迹预测）
本文介绍了 2020 年 NIPS 上的一篇关于模糊注意力轨迹预测的文章，但是被骗啦（我大意了）。其实和 Fuzzy 并没有什么关系，反而是用的 Attention 机制。 1. 引言 1.1. 归纳偏置 2. 结构 2.1. 预测架构 2.2. 交互模块 2.3. 模糊查询注意力模块 ...
深度学习文章阅读（TS深度模糊网络）
本文介绍了 TS 深度模糊网络（TS Deep Fuzzy Network, TSDFN），于 2017 年提出，基于 TS 模糊系统组成三层网络，并推导了反向传播的梯度。 1. 网络结构 2. 网络参数辨识 2.1. 前向传播 2.2. 反向传播 3. 实验 3.1. 准备工作 3....
深度学习文章阅读（TS模糊系统）
本文介绍了 TS 型模糊系统，由 Takagi 和 Sugeno 两位学者在 1985 年提出，主要思想是将非线性系统用许多线段相近的表示出来，即将复杂的非线性问题转化为在不同小线段上的问题。 1. TS 模糊系统 1.1. 推理过程 1.2. 特性 1.3. 辨识算法 1.3.1. 结论参数...