链接： 图像超分辨率：SwinIR学习笔记 - 知乎 - 桃川京夏（√） 发布于 2022-08-28 20:33 论文名称：SwinIR: Image Restoration Using Swin Transformer（ICCV 2021） 论文链接：https://link.zhihu.com/?target=https%3A//openaccess.thecvf.com/content

链接： 图像超分辨率：IPT学习笔记 - 知乎 - 桃川京夏（√） 编辑于 2022-09-02 20:28 论文名称：Pre-Trained Image Processing Transformer（CVPR 2021，IPT） 论文链接： https://link.zhihu.com/?target=https%3A//openaccess.thecvf.com/content/CVPR2

链接： 图像超分辨率学习总结 - 知乎 - 桃川京夏（√） 编辑于 2022-09-20 19:50 图像超分辨率学习总结本文对图像超分辨率的主要发展历程进行梳理，并对超分辨率中其他的一些进展做了简单概述，最后总结归纳了未来发展趋势。 [√] 一、主要发展历程 基于深度学习的图像超分辨率（Super-resolution）这一方向大体上随着主流分类模型的结构一起发展，大致的推进过程如下。 1、

链接： 图像超分辨率：盲超分总结 - 知乎 - 桃川京夏（√） 编辑于 2022-08-29 09:29 图像超分辨率：盲超分总结[√] 一、 方法归类总结 目前，盲图像超分辨率主要分为显示建模（Explicit Modelling）和隐式建模（Implicit Modelling）两类方法，具体的类别细分如下图所示： alec： 盲超分分为显式建模和隐式建模 在非盲图像超分辨率中，

链接： 图像超分辨率技术-简介 - 知乎 - 三维视觉与SLAM - deimo（√） 编辑于 2022-11-17 14:18・IP 属地北京 一、 定义与分类超分辨率复原技术的基本思想是釆用信号处理的方法，在改善图像质量的同时，重建成像系统截止频率之外的信息，从而在不改变硬件设备的前提下，获取高于成像系统分辨率的图像。超分辨率复原的概念广义上讲包含3种情况: 1)单幅图像分辨率放大 2)从

链接： 综述 | 基于深度学习的人脸超分辨率：全面调研 - 知乎 - CVer计算机视觉（√） 综述 | 基于深度学习的人脸超分辨率：全面调研40页综述，共计202篇参考文献！本文对人脸超分辨率的深度学习技术进行了全面调研，对诸多算法进行分类和介绍，并盘点了代表性工作，以及常用的数据集和性能指标！ Deep Learning-based Face Super-resolution: A Su

链接： 超分辨率 | 综述！使用深度学习来实现图像超分辨率 - 腾讯云开发者社区 - AI算法修炼营（√） 发布于2020-05-26 15:00:39 今天给大家介绍一篇图像超分辨率邻域的综述，这篇综述总结了图像超分辨率领域的几方面：problem settings、数据集、performance metrics、SR方法、特定领域应用以结构组件形式，同时，总结超分方法的优点与限制。讨论了存

链接： 用超分辨率扛把子算法 ESRGAN，训练图像增强模型 - 腾讯云开发者社区 - HyperAI超神经（√） 发布于2021-05-27 15:05:38 内容一览：通过硬件或软件方法，提高原有图像的分辨率，让模糊图像秒变清晰，就是超分辨率。随着深度学习技术的发展，图像超分辨率技术在游戏、电影、医疗影像等领域的应用，也愈发广泛。 关键词：超分辨率 机器视觉 深度学习 将图像或影片

链接： 单幅图像超分辨率重建(图像超分) - 腾讯云开发者社区 - 全栈程序员站长（√） 一、简介图像超分辨率重建技术就是利用一组低质量、低分辨率图像(或运动序列)来产生单幅高质量、高分辨率图像。图像超分辨率重建应用领域及其宽广，在军事，医学，公共安全，计算机视觉等方面都存在着重要的应用前景。在计算机视觉领域，图像超分辨率重建技术有可能使图像实现从检出水平(detection level)向识

链接： 图像超分辨率重建算法，让模糊图像变清晰(附数据和代码)（√） 1.概念 简单来理解超分辨率重建就是将小尺寸图像变为大尺寸图像，使图像更加 “清晰”。 一系列有效的超分辨率重建算法开始陆续被研究学者提出，重建能力不断加强，直至今日，依托深度学习技术，图像的超分辨率重建已经取得了非凡的成绩，在效果上愈发真实和清晰。 3.研究进展 传统超分辨率重建算法 基于插值的超分辨率重建：常见的基于插值

[√] 8.0 - 注意力机制与外部记忆 alec： 注意力机制和外部记忆是两个部件，部件的意思是能够和其它的网络架构相融合。 transformer是RNN中序列到序列的模型的一个实现 [√] 内容 alec： 注意力机制能够筛选重要的信息，并且大幅的降低计算量 自注意力模型是基于注意力机制的一个非常流行的模型 transformer是自注意力模型的一个具体的实现 alec：

[√] 7.1 - 批大小调整实验 [√] 网络优化与正则化 [√] 小批量随机梯度下降 [√] 批大小的调整实验 alec： 学习率和批大小成正比，因为批大小大，那么梯度的方差就小，引入的随机梯度的噪声也小，因此学习率可以相应的调大 alec： 通过该图能够看出，总体来说，批大小比较小的组，最终的损失最小。因为批大小比较小的组，每组的样本数量少，但是每一个epoch中能够迭

[√] 7.0 - 网络优化与正则化 alec： 为了模型能够在未知的数据上效果更好，我们希望模型的泛化错误更小。 为了提高模型的泛化能力，我们通常会对模型的复杂度进行约束，也就是正则化。 优化和正则化是一对矛盾体，就希望好，有希望不要太好。正则化会使训练集上的误差升高，但是会降低训练集和测试集的差别。 正则化用来提高模型的泛化能力。 [√] 7.1 - 神经网络优化的特点 [√] 神

[√] 7.6 网络正则化方法 alec： 神经网络很深，拟合能力很强，很容易就在训练集上过拟合，因此需要一定的手段来惩罚网络参数的更新。正则化就是惩罚网络参数更新，防止过拟合的方法。 由于深度神经网络的复杂度比较高，并且拟合能力很强，很容易在训练集上产生过拟合，因此在训练深度神经网络时，也需要通过一定的正则化方法来改进网络的泛化能力。 正则化（Regularization）是一类通过限制模型

[√] 7.4 参数初始化 alec： 神经网络的参数学习是一个非凸优化问题。 当使用梯度下降法来进行网络参数优化时，参数初始值的选取十分关键，关系到网络的优化效率和泛化能力。（神经网络的初始参数值非常重要） 此外，由于神经网络优化时出现的对称权重现象（参见第4.4.1节），神经网络的参数不能初始化为相同的值，需要有一定的差异性。（神经网络的参数初始值不能初始化为相同的值） 常用的参数初始

通过实验对比不同的优化策略对模型的影响 [√] 第7章 - 网络优化与正则化 alec收获/总结： 神经网络的损失函数是一个非凸函数，找到全局最优解通常比较困难。 深度神经网络的参数非常多，训练数据也比较大，因此也无法使用计算代价很高的二阶优化方法，而一阶优化方法的训练效率通常比较低。 深度神经网络存在梯度消失或爆炸问题，导致基于梯度的优化方法经常失效。 目前，神经网络变得流行除了本

[√] 第3章 - 线性分类分类是机器学习中最常见的一类任务，其预测标签是一些离散的类别（符号）。根据分类任务的类别数量又可以分为二分类任务和多分类任务。 线性分类是指利用一个或多个线性函数将样本进行分类。常用的线性分类模型有Logistic回归和Softmax回归。Logistic回归是一种常用的处理二分类问题的线性模型。Softmax回归是Logistic回归在多分类问题上的推广。 在学习本章

[√] 4.1 - 神经元和前馈神经网络 [√] D => 神经元 - 净活性值 [√] F -> ReLU函数绘制 [√] D => 前馈神经网络 [√] F -> 全连接神经网络、多层感知机 alec: 输出层什么时候使用激活函数？ 分类问题，输出层一般有激活函数，因此要做成概率来表示分类的可能性 回归问题，一般输出层不要激

[√] 第4章 - 前馈神经网络神经网络是由神经元按照一定的连接结构组合而成的网络。神经网络可以看作一个函数，通过简单非线性函数的多次复合，实现输入空间到输出空间的复杂映射 。前馈神经网络是最早发明的简单人工神经网络。整个网络中的信息单向传播，可以用一个有向无环路图表示，这种网络结构简单，易于实现。 在学习本章内容前，建议先阅读《神经网络与深度学习》第2章：机器学习概述的相关内容，关键知识点如 图

参考文章： PicGo图床与Typora（PicGo+Typora+GitHub的完整设置）（√） GitHub + jsDelivr + PicGo + Imagine 打造稳定快速、高效免费图床（√） 1.github创建仓库 github创建仓库 2.获取github账号token 点击头像，选中头像列表中的Settings 进入Settings,点击Developer Setti

如题

[√] 5.1 - 卷积 [√] 目录 [√] 卷积 [√] 用卷积替代全连接 [√] 卷积算子 [√] 二维卷积算子 [√] 二维卷积算子的参数量 alec： L层得到30×30个神经元， 使用全连接的话则需要30×30×32×32≈900000=90万个参数 使用卷积的话，则需要的参数量为9个（不同的神经元参数共享、单个神经元局部连接，通过这两个来节省参数

[√] 6.4 实践：基于双向LSTM模型完成文本分类任务电影评论可以蕴含丰富的情感：比如喜欢、讨厌、等等．情感分析（Sentiment Analysis）是为一个文本分类问题，即使用判定给定的一段文本信息表达的情感属于积极情绪，还是消极情绪． 本实践使用 IMDB 电影评论数据集，使用双向 LSTM 对电影评论进行情感分析． [√] 6.4.1 数据处理 IMDB电影评论数据集是一份关于电影评论

[√] 第5章 - 卷积神经网络 - 书籍卷积神经网络（Convolutional Neural Network，CNN）是受生物学上感受野机制的启发而提出的。 目前的卷积神经网络一般是由卷积层、汇聚层和全连接层交叉堆叠而成的前馈神经网络，有三个结构上的特性：局部连接、权重共享以及汇聚。这些特性使得卷积神经网络具有一定程度上的平移、缩放和旋转不变性。 和前馈神经网络相比，卷积神经网络的参数更少。

[√] 6.1 - 循环神经网络及应用模式 [√] 循环神经网络和前馈神经网络 alec： NLP:one-hot向量维度1w+、embedding维度128+ ↑：将单词转成在计算机中的表示形式：编码为one-hot向量或者embedding编码 循环神经网络的显著特点： 时间步上的连接 权重共享 [√] 循环神经网络(RNN) [√] RNN常见的应用模式 [√] 序列到类别

alec： 在循环神经网络中，神经元不但可以接受其他神经元的信息，也可以接受自身的信息，形成具有环路的网络结构 循环神经网络已经被广泛应用在语音识别、语言模型以及自然语言生成等任务上． 循环神经网络（Recurrent Neural Network，RNN）是一类具有短期记忆能力的神经网络．在循环神经网络中，神经元不但可以接受其他神经元的信息，也可以接受自身的信息，形成具有环路的网络结构．

3 - 课节3: 线性分类3.0 - 线性模型概述 3.1 - 分类问题示例 这种方式的缺点在于将文本的语序信息丢掉了 3.2 - 线性分类模型 分类问题因为y不可导，因此要寻找更优的损失函数 3.3 - 交叉熵与对数似然 交叉熵 交叉熵可以用来衡量两个分布的差异。如果两个分布越近，那么蕴含的信息越少，交叉熵越小。 KL散度 3.4 - 具体的线性分类模

1 - 课节1: 绪论1.0 - 绪论 1.1 - 人工智能 1.2 - 如何开发人工智能系统 1.3 - 表示学习 特征提取含有人工的过程，不能保证学习到的特征一定能帮助于分类 表示学习是将输入和输出直接串联到一起，希望学到的这种表示(特征)是对后面的这种分类是直接有帮助的，希望这种表示能够蕴含高层的语义特征。表示学习的难点在于没有明确的目标。它所有的

[√] 4 - 课节4：前馈神经网络[√] 4.0 - 前馈神经网络概述本节讲非线性的分类器，这个分类器主要就是神经网络。今天讲的第一种神经网络是前馈神经网络。 [√] 4.1 - 神经元 偏置b的作用是：调节阈值，即达到什么程度就兴奋。 这个人工神经元可以看做是一个简单的线性模型。 这个神经元可以看做两部分，前半部分看做是收集信息，后半部分看做是一个非线性函数，用来将收集的信息映射到一个

2 - 课节2: 机器学习2.0 - 机器学习概述 2.1 - 关于概率的一些基本概念 2.2 - 机器学习定义 2.3 - 机器学习类型 输出是连续的，这类问题称为回归问题。 最终的结果是离散的，为分类问题 检测框内有没有人脸，二分类问题 聚类问题是无监督学习问题 强化学习：尝试各种可能性，不断试错，看哪种可能性对最终的结果帮助最大，然后做出选择