Blog 📝
An Image is Worth 16x16 Words: Transformers for Image Recognition at Scale
Vision Transformer (ViT) 是目前计算机视觉 (CV) 领域影响力最大的一项工作,因为他挑战了自从 2012 年 AlexNet 提出以来的 CNN 模型在 CV 领域的绝对统治地位。实验表明,如果能够在足够多的数据集上做预训练,那么即使不使用 CNN 也能达到同等甚至更高的精度。 ViT 不仅在 CV 领域挖了一个大坑,而且还打破了 CV 和 NLP 在模型上的壁垒,所以在多模态领域也挖了一个大坑。于是,在 2020 年 10 月本文在 arXiv 上公开以后,基于 ViT 的工作层出不穷。毫无疑问,ViT 标志着 Transformer 模型正式杀入 CV 界,也标志着 Transformer 模型正式成为继 MLP、CNN、RNN 之后的一种新的模型范式。 原文链接
November 30, 2021 Last modified on November 30, 2021
Attention Is All You Need
Transformer 是目前人工智能和深度学习领域最著名的模型之一,由 Google 团队于 2017 年 6 月提出,发表在 NeuralPS(Conference on Neural Information Processing Systems)上。起初是为了解决自然语言处理(Natural Language Processing, NLP)领域中的机器翻译问题,没想到它的效果竟然超越了循环神经网络(Recurrent Neural Networks, RNN),只需要用 encoder 和 decoder 以及注意力 attention 机制就可以达到很好的效果。 Transformer 本身是专门为 NLP 领域量身定制的,但是后来人们将图像等数据编码和序列化之后同样可以放进 Transformer 中进行训练,并且也能让模型达到和卷积神经网络(Convolutional Neural Networks, CNN)和深度神经网络(Deep Neural Networks, DNN)相比更加出其不意的效果。这才让 Transformer 在计算机视觉领域大火了起来。 原文链接
November 9, 2021 Last modified on November 9, 2021
我的马克思主义爱情观
本文是一篇哲学论文,基于马克思主义基本原理中的辩证唯物论、认识论、唯物辩证法以及人的解放四个方面,对爱情进行了深入剖析,建立起我的马克思主义爱情观。
August 9, 2021 Last modified on August 9, 2021
Edge Intelligence: Architectures, Challenges, and Applications
这篇关于边缘智能的综述文章最近一次修订时间为2020年12月。这篇文章的作者将边缘智能的相关工作分为四大部分:边缘缓存、边缘训练、边缘推断、边缘卸载,并且针对每部分研究工作进行了深入的文献调研和阐述分析。 原文链接
July 8, 2021 Last modified on July 8, 2021
Classification of Computation Offloading
2021年6月23日上午8:30,湖南大学信息科学与工程学院博士生导师李克勤教授在线上做题为《移动边缘计算中任务卸载的博弈论方法》的报告。 本文将李教授报告中关于边缘计算领域研究的十个维度进行整理。对这十个维度熟悉到一定程度后,任何关于边缘计算的工作我们都可以进行定位。
July 5, 2021 Last modified on July 5, 2021
How to Read a Paper
这是 2007 年发表在 SIGCOMM 上的一篇文章,作者提出了文献的三遍阅读法,并且介绍了如何利用这种方法做文献调研。 原文链接
June 29, 2021 Last modified on June 29, 2021
“不忘初心 一生一誓”——毕业生党员交流会
2021年6月24日,安徽大学计算机科学与技术学院本科生党支部开展了以“不忘初心 一生一誓”为主题的毕业生党员交流会活动。 交流会上,每位党员重温入党誓词,面对党旗庄严宣誓。各位学生党员积极发言,感悟四年来的学习与收获。辅导员老师给予同学们祝福和寄语,葛大圣老师即兴作诗一首。蒋伟书记最后做了总结,给全体党员寄语。
June 24, 2021 Last modified on June 24, 2021
挑战 2021 年高考数学全国乙卷压轴大题
2021 年高考已落下帷幕,转眼间大学即将毕业。回想当年高考解析几何和导数两个压轴大题没能拿到满分,内心感到非常遗憾。因此,今天我将重新来到高考的古战场,再战解几导数大题。
June 9, 2021 Last modified on June 9, 2021