How to Enter the Field of Deep Learning?
内容提要
作者通过学习基础知识、阅读论文、微调模型和解决问题等方式进入深度学习领域。理解基础原理对于训练好的模型非常重要。开源工作对于获得机会和提高技能也很重要。作者将继续训练模型、改进数据堆栈并进行公开发布。
延伸解读
从失败到突破：作者的学习转折
作者本科主修美国历史，曾有几门课不及格，2012年从事机器学习和Python工作，但当时认为深度学习太复杂。他最初通过Kaggle竞赛自上而下学习，导致数学基础薄弱，遇到瓶颈。十年后，他决定自下而上学习，先读《深度学习书》打基础，再读论文并实现，最终成功进入领域。这提示我们，学习路径的选择至关重要，基础不牢可能限制长期发展。
数据技能与实用主义：被忽视的关键能力
作者强调，数据清理占其工作70%以上，数据技能至关重要。此外，实用主义能帮助识别何时深入研究、何时快速解决，避免陷入无用的“兔子洞”。这些技能在深度学习中常被低估，但实际影响效率与成果。对于想进入该领域的人，除了算法和编程，也应重视数据处理和决策能力。
开源与问题发现：职业发展的加速器
作者通过开源所有AI项目，获得了曝光和技能提升，并因此得到answer.ai的研究工作机会。同时，他在微调中发现高质量数据以PDF形式存在，于是开发了marker工具，比nougat快10倍且更准确。这表明，解决实际问题和开源贡献能带来职业突破，即使作为局外人也能在AI领域产生影响力。
Q&A
如何开始学习深度学习？
可以通过学习基础知识、阅读相关论文、微调模型和解决实际问题来开始学习深度学习。
深度学习中哪些技能是必需的？
强大的Python编程能力和数据清理技能是进入深度学习领域的必备技能。
微调模型的最佳工具是什么？
Huggingface transformers是微调基础模型的优秀工具，因为它实现了许多模型并使用PyTorch。
如何通过开源项目提升自己的技能？
开源项目可以提高曝光率并帮助提升技能，因为它们提供了与他人合作和学习的机会。
在深度学习中，如何识别有趣的问题？
找到有趣的问题是产生影响的最佳方式，关注实际应用和解决方案可以帮助识别这些问题。
如何通过教学巩固深度学习知识？
通过教学可以巩固学习的概念，准备课程并教授他人是加深理解的有效方法。
