大三寒假计划贴!
又一次来到了激动人心的假期环节,OP 的考试已经结束,虽然说还有一些课设作业没有提交,但是都是一些写作方面的事情,可以说只是假期头顶的两朵乌云罢了。
按照之前的讲究,Ref 一下上一次的计划贴:
我的计划贴可能和大多数門友的不一样,一般来说是采用广撒网的策略,其中可能包括一些我必须要做的事情,以及一些我很感兴趣的事情。由于 OP 现在已经对于短视频/小说/长视频脱敏,并且长期已经没有有趣的单机可以让我投入大量的时间(欢迎大家推荐),因此会将全部的时间投入到这些事情中。至于哪些计划会被宠幸,大概是看心情了。可能我累一些,就看看网课啥的放松一下,轻松一些的时候就攻坚一些困难的网课或者一些需要更多动脑的内容。
现在加入一个评论环节,由我自己对于每个计划进行锐评。
- 阅读一百篇论文并且更新在 Blog 中。
评价:这属于是最简单的任务,按照目前的效率,除非非常数学或者需要非常详细观察实现细节的论文,基本上我的速度可以到半小时或者一小时一篇。更新到 Blog 是一种积累以及量化的体现。 - 看完 Acwing 算法基础课与算法提高课
评价:鉴定为上次就出现的古董计划,我虽然应该没有在保研的时候应付机试的需求,但是还是对于算法比较感兴趣。 - 看完 Games101
评价:我们下学期有图形学的课程,但是因为貌似是闭卷考试所以我大概率不会选修,但是我依然是对于图形学很感兴趣的,算是一开始接触计算机时候的白月光了,有时间可以看看,但是 202 感觉实在没精力做了。 - Release 当前的课题
评价:目前在 SHAILAB 进行的课题,本身已经投了 CVPR,但是依然在 refine 的过程中,应该会在一月中旬 release,这是一个 DDL - 复现五个不同的 Manipulation 模型
评价:目前我在领域里面没有过多的接触不同的模型以及调参的经验,对于集群的使用也只是一知半解,但是手头有大量的 baseline 可以使用显然是在领域中长期科研的必修课 - 拍摄两组女装
评价:好不容易放假了,在回家之前可以尝试一下! - 使用 Astro 重新搭建我的 Blog
评价:之前的 Blog 使用别人的主题,自定义也不太方便,假如说使用 Astro,可玩性会高很多,并且可以加入不少自己喜欢的东西进去。属于是虽然有趣,但是也并非迫在眉睫的事情。
顺便,我写了我的 2024 年终总结,大家在过去的一年里面有没有经历什么有趣的事情,或者甚至也写了年终总结,很想看到大家的分享。
喵?
或者甚至也写了年终总结,很想看到大家的分享。
还在鸽
年终在年后发是河狸的事情
但是可以发門友写的年终😈
我的寒假计划:
设定一个寒假计划。
这辈子第一次完成寒假计划。
好耶!豪看,也期待你的
喵?
看女装喵~
使用 Astro 重新搭建我的 Blog
等一个攻略,之前的 blog 丢了,想试试弄个新的
鉴定为十分的困难,其实我主要不了解前端技术,感觉要从头开始学习。
具体来说,Astro 的好处就是主题是和其他东西放在一起的,而不是封装成了一个 npm 的包,也就可以更方便地修改别人的主题,或者自定义自己的主题,很自由。
具体来说还是可以看一下官方文档:
以及推荐一些我之前看过的主题:
- GitHub - lxchapu/astro-gyoza: A simple and cute static blog template built with Astro and React.🥟🥟🥟
- GitHub - izmttk/astro-mecure: My personal blog built with Astro, React and Tailwindcss.
- GitHub - saicaca/fuwari: ✨A static blog template built with Astro.
假如想要从头使用他们的模板,还是很简单的,但是我有一些特殊的需求,比如说使用代码块的特殊指令如 code ++ 进行风格化的显示,以及之前用了别人主题里面封装好的组件,所以迁移起来就很麻烦,基本上我是完全不懂了。有时间慢慢研究了。
喵?
阿汐亦未眠😺😺
在这里跟一贴吧 不单发了
- 自学编译原理 大概是看 Stanford 的网课然后写 pku 的 lab(?) 因为好像 CMU 和 Stanford 的 lab 都没有对外开放
美国怎么这么坏 - 女装
会出现在这个月的西安梦乡漫展 - 准备一下暑期实习面经 感觉很多大厂年后/开学就可以投了,甚至现在已经有一些外企/量化可以投了,不过鼠鼠想都不敢想就是了
- 提升 rust 水平(随缘,可能会跟着做一些小项目)
先投。
pkulab 我看了一节就停了 太懒了
随机读点 utd24 的新文章,有时间再看几个 tutorial 和经典教材打打基础。
自制一套 Malliavin 分析课程,学习概率与方程交叉地带,学习期权定价
需要打工喵
喵?
感觉门 u 都是思路很清晰的就业向,加油喵
喵?
是商科之类的东西吗喵,高级喵
喵?
自制课程万岁!世界上还是好人多喵
喵?
这样的群在哪里喵?我有一个朋友也很感兴趣
cuda 这种东西现在真的还有用武之地吗?感觉都是很底层的领域,除了部分开源项目以及最大的几个唱(e.g., Nvidia)大多数其实不会用到吧喵。不太懂,比较好奇这个
喵?
发错了,是门友喵
喵?
hpc 用得比较多,针对不同架构优化算子的效率之类的。但是就业岗位,,,反正没有互联网多。
以及感觉今年 ai infra 莫名的火起来了 ![]()
但是 202 感觉实在没精力做了。
不打算搞图形学的话,没必要做 202 的实验。本人和同学踩完坑之后基本可以确认,202 的实验框架有 bug(甚至明明是 WebGL 平台还是有奇怪的兼容性 bug)。打算明年直接把 202 的实验任务搞到我们的框架里来 🤣
cuda 这种东西现在真的还有用武之地吗?感觉都是很底层的领域
貌似现在有一个挺重要的细分市场是模仿和兼容 CUDA,很多公司开始自己做 AI Inference 硬件,而软件栈上模仿 CUDA 是很自然的行为。换言之直接用 CUDA 造轮子的机会可能不太多,但是现在要造类似轮子的公司可能不少。毕竟 NV 垄断得太狠了,连 PyTorch 都开始发博客举起反 NV 垄断大旗,大幅重构自己的 Native 后端。
我的 boss 好多人招。。。
我也来写一个毫无 cs 含量的 ![]()
- 10 点前起床,2 点前睡觉
- 读完《救猫咪》
- 写完▇▇▇的大纲
- 每周至少写一万字
和准备玩的 :_1_smiley:
- 通关逆转检事 I、II
- 看完《深海余烬》
原来我可以收到谁给我打勾的提示
--.-..-....-..----.
好欸,感觉也是充实的生活
hpc 用得比较多,针对不同架构优化算子的效率之类的。
原来如此,学到了喵!
好的喵,虽然但是我大概从来不做 Lab,基本上就是看看课,一边写代码一边播放这种课程,还是很享受的喵
但是感觉是不是硬件还差点意思,不只是架构的问题喵
强大的 Boss 喵
喵?
但是感觉是不是硬件还差点意思,不只是架构的问题喵
个人收集到的信息是软件的差距比硬件的差距要大。现在 AMD 算是 NV 之后第一梯队的水平,MI300 系列甚至已经用到了橡树岭超算(几年前 GPU 总算力第一)上。然而 ROCm 到现在还是不支持 AMD 全系消费级显卡、不完全支持 Windows、不能发挥 GPU 的全部硬件算力,甚至 24 年年底还被第三方公司查出一堆 bug 整了份 bug 技术报告挂在 X 上 🤣
国内像昇腾、摩尔线程这样做类 CUDA 通用软硬件架构的,目前好像还没有并入 PyTorch 主线,都是自己维护一个更新落后的分支来用。而各种号称性价比高过 NV 三倍五倍的加速卡推理确实省电,但软件栈往往是 Transformer 特化甚至 LLM 特化的,有些连流行的 LLM 都没支持全,和 NV 无死角的软件支持完全不是一个量级的。
是因为太缺编译优化的人才吗
这个我了解有限,不过应该不只是编译优化的问题。NV 的 CUDA/cuDNN/cuBLAS(以及背后的驱动)作为基础软件是全方位的强,至少包括编译优化、并行优化、数值算法,可能还有稳定性验证、缓存优化甚至网络互联等等方面……毕竟 NV 是真的在这个领域深耕了十几年时间,老黄说 NV 是软件公司不是空谈。
好耶,是写作选手
堂堂更新。现在更新了自己的 Blog。但是事实证明我的水平还是不够,套用了别人的 Blog,然后争取在后面修改吧,毕竟 Astro 修改起来还是很方便的。不过现在这些特性已经很先进了。
喵?
更新后的 blog 好看耶!羡慕门友的执行力 😭
花了十几个小时喵。卡在了奇怪的地方,一开始想要完全自己开发,浪费了一些时间,但是好处是之后能看懂代码了。然后这个目前用的 blog 的部署,以及开启 dev 模式,我之前看文档里面说 pnpm 啥的都可以,但是貌似只有 bun 是没问题的。pnpm i 安装依赖之后还会缺东西,但是再安装会导致 build 不了喵
喵?
CUDA(及 PTX)是目前最强大、最直接、最完备的能够直接控制 NVIDIA GPGPU 设备的一套官方应用程序编程接口,也是官方面向 C/C++ 提供的唯一核函数编程接口。
生态被领先太多了。GPU 并行算法的设计、实现、验证和调优是非常艰巨的任务,其中涉及到非常多因硬件而异的细节。例如,设计一个仅仅包含数据搬运的核函数,就需要考虑如何最小化 Cache 上的 conflict、如何 vectorize 等等问题。实际应用中需要的核函数往往还包括复杂的计算任务,实现起来更为困难,调优也是耗时巨大的工作。由于 GPU 的设备间差异很大,不同厂商的设备特性很可能完全不同,这样的问题很难通过设计某种 DSL(例如 Triton)来完全解决。