林天威的博客

Thinking will not overcome fear but action will.

Self-Attention 加速方法一览：ISSA、CCNet、CGNL、Linformer

论文笔记

Attention 机制最早在NLP 领域中被提出，基于attention 的transformer结构近年在NLP的各项任务上大放异彩。在视觉任务中，attention也收到了很多的关注，比较有名的方法包括Non-Local Network，能够在时空volume中对全局的关系进行建模，获得了很好的效果。但视觉任务中的self-attention模块通常需要进行大矩阵的矩阵乘法，显存占用大...

Posted by TV on June 19, 2020

WCT风格迁移：WCT、Photo WCT、WCT2

Style Transfer 论文笔记

这篇笔记主要讨论 的 的 的

Posted by TV on June 7, 2020

Arbitrary Style Transfer 02 - SANet

Style Transfer 论文笔记

这篇笔记介绍CVPR2019的一篇基于attention的 style transfer文章：“Arbitrary Style Transfer with Style-Attentional Networks”。这篇文章没有采用AdaIN中替换均值和方差的方式，而是采用了attention的方式将content中的特征替换为style中的特征，从而实现风格的迁移。 SA module 首...

Posted by TV on June 7, 2020

Arbitraty Style Transfer 论文及代码整理

Style Transfer 论文笔记

Posted by TV on June 7, 2020

SIGGRAPH 2020 - 交互式视频风格化

Style Transfer 论文笔记

这篇博客主要介绍一篇SIGGRAPH 2020 的交互式视频风格化论文 “Interactive Video Stylization Using Few-Shot Patch-Based Training” 效果很是酷炫（可以youtube 上搜demo）。 概要 这篇文章提出了一种few-shot的视频风格化方法。具体而言，输入一段视频，选取其中的一帧图像，由艺术家对其做风格化，从而我...

Posted by TV on June 7, 2020

Arbitrary Style Transfer 01 - AdaIN

Style Transfer 论文笔记

关于arbitrary style transfer 的论文笔记，打算从比较早的方法写起，虽然早已经有很多人写过相关的笔记，但自己写一下还是能加深点印象。后面写的篇数多了，可以看着整合成一篇小综述。这篇笔记主要讲的就是adain，是17年的ICCV论文：“Arbitrary Style Transfer in Real-time with Adaptive Instance Normaliz...

Posted by TV on June 7, 2020

对于近期状态的碎碎念

个人随笔

2020年一晃已经快过去两个Q了，年初开通了新的个人博客，却只是一时的性质，没能坚持下来，实在惭愧。 这周Anet竞赛结束了，今年按部就班参加了，却没有向往年一样用全新的方法全力投入，最后几乎全部落败。在现在这个节点回头看过去，感到自己今年的状态并不是太好，在工作一年后一定程度上落入了舒适区，在项目中忙忙碌碌，对研究的方向也总是从简单落地的角度来考量，缺乏深入的思考。 其实从高中开始到现...

Posted by TV on June 6, 2020

可微分的样条插值算法 - 原理篇

arXiv论文笔记

最近在学习GAN论文中一些涉及到基于控制点实现图像变形的论文，这些论文基本上都采用了differentiable spline interpolation module(可微分样条插值模块) 来实现图像变形。由于这个模块是可微分的，因此可以直接嵌入网络中进行学习，对于变形比较大的image-to-image translation 来说，是个很有价值的模块。这篇笔记主要是大致介绍样条插值算法...

Posted by TV on April 5, 2020

半监督/自监督/无监督图像分类技术调研

arXiv论文笔记

前两天德国基尔大学的研究者在arXiv上上传了一篇关于半监督/自监督/无监督图像分类技术的调研文章。对相关的概念有比较清楚的介绍，这里做一些简单的翻译和笔记。 深度学习近几年在图像领域获得了很大的成功，但常常依赖于大量有标注的数据。然而，在很多实际的问题和应用当中，获取大量有标签的训练数据是很困难或是很昂贵的。因此，使用更少的标签来训练网络来达到同等的效果就很重要。与之相关的研究领域，...

Posted by TV on February 23, 2020

「不止代码：程序员的进阶之路」阅读笔记

程墨Morgan 知乎一小时系列电子书

非技术类的读书笔记，主要还是打算摘抄读书时觉得文中写的好的地方，以及在读书时的一些感想，在自己之后回顾的 时候能够通过看笔记来快速记起书中的内容和要点。 内容摘抄 认识自己的几个问题 我愿意从事程序员工作多久？ 我想要成为一个专才，还是一个通才？ 我是内向还是外向？ 我是一个面向技术和产品的人，还是面向商业的人？ 成为专家 在你最初的3年左右时...

Posted by TV on February 23, 2020

FEATURED TAGS
杂谈 学习笔记 style transfer
ABOUT ME

Goals determine what you going to be!

✉️ wzmsltw@gmail.com