8.4k 词
从理论视角来分析我们为何不需要暑假作业今日我亲爱的母亲又催促我完成暑假作业,遂写此文,试图从理论角度论证我们为何不需要暑假作业。本文不构成任何行动建议,本文的理论框架也不一定正确。 学习的本质是什么?我们先谈学生阶段的监督学习(Supervised Learning)。 假设存在一个函数: \[F(x)=y\] 其中,$x$ 是题目,$y$ 是答案。学习的目标,就是找到一个近似函数 $\hat{F}$,使它能够根据题目预测出正确答案: \[\hat{F}(x)\approx F(x)\] 现在我们需要一个目标。只要能够求得当前状态与目标之间的差距,就可以不断调整大脑中的参数,使自己的答案逐渐逼近正确答案。 假设学生当前的知识状态由参数 $\theta$ 表示,那么一次学习过程大致可以写成: \[\theta_{t+1}=\theta_t-\eta\nabla_\theta\mathcal{L}(\theta_t)\] 其中: $\mathcal{L}$ 表示当前答案与正确答案之间的差距; $\eta$ 表示学习率,也就是每次根据错误修改自己的幅度; $\na...
3.5k 词
用了几个月 AI Agent 之后,我发现我才是整个系统里最慢的那个东西在 Agent 出现之前,我自己动手做一个东西的流程大概是这样的。 脑子里蹦出一个想法,觉得「诶这个方向好像有搞头」。然后开始吭哧吭哧搭代码,把想法翻译成能跑的东西。这个过程通常要花几天甚至几周,中间各种 debug、各种跟自己较劲、各种「我当初到底在想什么」。 等代码终于能跑了,兴致已经消磨得差不多了。 更惨的是,很多时候跑出来的结果跟预期差了十万八千里,要么就是辛辛苦苦搞了一周,最后涨了 0.3 个点。阿米诺斯! 对我而言,做研究只有两个happy moment,一个是那个想法刚蹦出来的时候,另一个是终于跑出好结果的时候。中间那漫长的施工期,基本就是在燃烧生命。 而 Agent 加上 Vibe-Coding,可以把这中间的施工期从几天几周压到几个小时,甚至几十分钟。 这张 meme 大概就是我现在的状态。 Agent能够让人飞快地把IDEA转化成项目,但是通常并不能帮你想出真正有突破性启发的IDEA。 用什么?两个推荐的Agent,第一个是 Codex。 Codex 的代码质量无敌,模型足够前沿,经常能...