Transformer 原始论文 《Attention is All You Need》，由 Vaswani 等人于 2017 年 6 月发布，是近年来最具革命性的深度学习论文之一，它不仅在自然语言处理领域带来了根本性变革，也为图像处理、音频处理、分子建模、强化学习等领域开辟了新的研究方向。 一、论文地位因为首先看论文的摘要和结果（结论）能让读者把握整篇论文的大致方向，因此我在读论文的时候基本也是

一、相关概念1 历史背景 传统AI：机器学习、深度学习、强化学习 2017年提出的Transformer架构，奠定了大模型领域主流算法架构的基石 大模型时代：神经网络、自注意力机制、Transformer 两者之间的区别： 模型结构和算法 灵活性和可扩展性 数据规模和多样性 任务范围和性能方面 计算资源和成本 2 什么是AI大模型 大语言模型（英文:Large Language Mode

在2012年时候，由Alex Krizhevsky、Ilya Sutskever和Geoffrey Hinton在ImageNet LSVRC-2010图像分类竞赛中提出的一种经典的卷积神经网络，由于他的出现和在 ImageNet 大规模视觉识别竞赛中取得了优异的成绩，把深度学习模型在比赛中的正确率提升到一个前所未有的高度，他的结果在测试集上取得 top-1错误率37.5%、top-5错误率17.

kaggle关于树叶的竞赛总结预测叶子图像的类别，该数据集包含 176 个类别，18353 个训练图像，8800 个测试图像。每个类别至少有 50 张图像用于训练，测试集平均分为公共和私人排行榜，网址为：https://www.kaggle.com/competitions/classify-leaves/code由于images文件夹包含测试集和训练集所有图像，因此需要手动把测试集和训练集分开，

一 相关概念1 什么是机器学习机器学习定义：让计算机在没有明确编程的情况下学习的研究领域。（从数据中寻找规律、建立关系，根据建立的关系去解决问题的方法，即从数据中学习并实现自我优化与升级）。 机器学习又分为分类任务、和回归任务。主要的区别在于分类可以理解为离散的点，而回归任务是连续的线。 机器学习、深度学习、人工智能的关系 机器学习是实现人工智能的方法，深度学习是一种实现机器学习的技术 2 科