Skip to content

CopyingAndLearning/Deep-Learning

Folders and files

NameName
Last commit message
Last commit date

Latest commit

 

History

38 Commits
 
 
 
 
 
 
 
 
 
 

Repository files navigation

  • master学习相关&记录&定位&规划&路线&思维

AI细分路线

多模态大模型;

计算机视觉:目标检测、目标分割;

时序;

自然语言处理;

推荐系统;

生成式AI;

模型训练思路

Zero-shot;

迁移学习:微调;

知识蒸馏:学生老师模型;

无监督/半监督/监督学习;

基本模型学习

|CNN=Transformer=|

老师

神:李宏毅、李沐、吴恩达

B站UP主:同济子豪兄、唐宇迪

好的网站

解决问题的网站:Kimi、ChatGPT、豆包、CSDN

数据集网站:Kaggle、百度飞浆

代码网站:github、gitee、gitcode

云服务器网站:算力云

(😶自己碰到好的网站也可以自己收集,在浏览器上面创建收藏夹)

🥽🥽🥽🥽🥽🥽

调试技巧🤠】

dir(类名)    # 遍历未知库的属性和方法,当一些库版本发生变化时

torch库:学会调试,通过不断的print来学习网络张量的形状的变化;看不懂就print;

思维

主干-枝叶思维;自我批判思维;拓展发散思维;框架思维;IPO(Input Process Output)思维; 深度宽度思维;自信思维;从0开始思维;抽象具体思维;作用和细节隔离思维;忙忙思维; 本质思维;回归本质思维;知识点思维;

重心放在解决从未解决过的问题,不要解决那些已经解决过的问题; 排列组合已有技术,创造新的技术;

=解释=

作用和细节隔离思维: 知道论文的作用和其实现细节是相互对立又统一的过程;就是说实现细节固然关键,但是知道论文解决的问题是什么更关键。

忙忙思维:一个人任务越多,一定程度上与任务无关的事情可以完成的更好。因为,不忙的情况下做其他任务,多半也会摸鱼;

本质思维:足够复杂的思维,也是由某个本质的思维拓展而来(baseline),对于本质的思维的掌握之后,才能更好的进行创新。(其本质和javaweb一样,基础的学习掌握之后,每个人创造的网页都不一样)。❗ 所以,本质思维就是要我们看那些基础的论文,那些解决某类事情的具体的baseline级别的idea。

回归本质思维:回归到的本质,必须是可以基础能调试理解的内容;所谓,基础能调试内容,就是能调整不同的参数,观察对应的输出。

知识点思维:将自己所学的内容或所看的论文抽象为一个知识点;

👾👾👾👾👾👾

定位

=知识储备不足= 症状如下:看一些论文没有想法,没有思路; 解决办法:搜索当前看的论文所对应的基础的论文,不够基础就继续向下搜索,直到自己觉得看得懂且有问题;如果特别基础了,还看不懂,那么就啥笔记都别做,看懂了在做,或者自己有想法的时候在做笔记,且做笔记时思考(思维)不能断;

不同时期的规划

初期:尽可能的拓展思维和知识收集的广度; (确定专业领域的整体路线图;) (比如看看综述什么的,这是很好确定方向的一种思路; (B站搜索相关论文标题,然后到谷歌学术搜索对应的论文;)

中期:

论文学习重心

思路 -> 架构 -> 训练策略 -> 数据和评测 -> 数学 (专硕) 思路 -> 架构 -> 数学 -> 训练策略 -> 数据和评测 (学硕)

About

平时练习和学习的深度学习代码

Resources

Stars

Watchers

Forks

Releases

No releases published

Packages

No packages published