Posts
sirlis
Cancel

本文主要记录自己学习 PyTorch 过程中涉及的一些基础知识。

本文介绍了 2020 年 Raissi 等发表在 Science 上的一种根据流体可视化结果来学习速度和压力场的方法,称为隐流体力学(hidden fluid mechanics)。

本文介绍了 2001 年 Taniguchi 等提出的一种广义 TS 模糊系统的建模方法、规则约减和鲁棒控制方法。

本文介绍了 2020 年 NIPS 上的一篇关于模糊注意力轨迹预测的文章,但是被骗啦(我大意了)。其实和 Fuzzy 并没有什么关系,反而是用的 Attention 机制。

本文介绍了 TS 深度模糊网络(TS Deep Fuzzy Network, TSDFN),于 2017 年提出,基于 TS 模糊系统组成三层网络,并推导了反向传播的梯度。

本文介绍了 TS 型模糊系统,由 Takagi 和 Sugeno 两位学者在 1985 年提出,主要思想是将非线性系统用许多线段相近的表示出来,即将复杂的非线性问题转化为在不同小线段上的问题。

本文介绍了用梯度下降的方法学会了梯度下降的学习方法,用 LSTM 代替传统人设计的诸如RMSprop、ADAM 等优化方法去学习出一个针对特定任务的优化器。

本文介绍了谷歌提出的 BERT 框架,基于 Transformer,在 NLP 领域的 11 个方向大幅刷新了精度,是近年来自残差网络最有突破性的一项技术。

本文主要介绍 seq2seq learning 中的 Transformer 模型,由谷歌提出。建议前序阅读 Encoder-Decoder。

本文列举了常用数学符号以供平时查询,包括希腊字母、二元关系符、二元运算符。