最近看到Lenny采访了Edwin Chen，底下评论说，这是Lenny最好的作品之一。Edwin的公司Surge AI给OpenAI、Anthropic、Google这些顶级AI实验室提供训练数据，公司虽然不到100人，但4年已经做到了10亿美元营收。而且，是从第一天就盈利，从来没拿过一分钱风险投资。但让我真正想写这篇文章的，是他在访谈里说的一段话。他说，自己有次用Claude帮忙写邮件，改了30遍，花了30分钟，终于写出了一封完美的邮件。发出去之后他突然意识到：这封邮件根本不重要，之前他压根不会在这种事上花30分钟。他问了一个问题：我们到底想要什么样的AI？就像你有没有刷过那种AI生成的短视频，标题震惊体、画面花哨、看完之后你发现自己什么都没记住，就是莫名其妙花掉了20分钟。这就是Edwin说的AI slop，AI垃圾内容，他担心整个行业正在朝这个方向狂奔。为什么会这样？我们要知道，AI模型是被训练出来的。训练的方式简单说就是：给模型看大量的问答对，告诉它什么是好回答什么是坏回答，它就慢慢学会了。但是，谁来判断什么是好什么是坏？现在行业里有个特别火的排行榜叫LMSys Arena，原理是让普通网友对比两个AI的回答，投票选出更好的那个。但问题来了，Edwin说，这些投票的人平均只花2秒钟就做出判断。他们不会仔细核实内容对不对，就看哪个回答更长、emoji更多、格式更炫。结果就是，一个胡说八道但排版漂亮的回答，很可能打败一个准确但朴素的回答。Edwin在Twitter、Google、Facebook都工作过，他说每次公司优化engagement，最后都会出现可怕的东西：点击诱饵、比基尼照片、大脚怪新闻、吓人的皮肤病图片占领你的信息流。同样的事情正在AI领域重演。现在的AI助手会不断夸你是天才、认同你的想法、顺着你的偏见说话，因为这样你就会多聊几句，多用几次，数据好看，投资人开心。但这真的是我们想要的AI吗？Edwin提出了一个更深层的问题：公司的价值观会塑造AI的性格。就像Google做的搜索引擎和Facebook做的会完全不同，每家AI公司训练出来的模型也会带着这家公司的基因。训练AI就像养孩子，你想让孩子考高分很简单，就是做题、背答案、刷题库。但你真正关心的是他能不能独立思考，是他有没有好奇心，是他能不能成为一个有创造力的人。问题是，考试分数很容易量化，而创造力、好奇心、独立思考能力这些东西，怎么衡量？Edwin说，这正是他公司最核心的工作：帮AI实验室想清楚，你到底想训练出什么样的AI？然后找到方法去衡量、去训练。Edwin自己的创业方式也非常反主流，他从第一天就决定不融资。他说融资之后你就被绑上了硅谷的流水线：发融资新闻、刷推特、做PR、给VC汇报、参加各种活动。你的客户变成了会看Techcrunch头条的人，而不是真正懂数据、真正需要高质量数据的人。他选择了另一条路：不发推，不做网红，不搞热闹，就是把产品做到足够好，靠研究员之间的口碑传播。直到最近大家才知道，原来这家默默无闻的公司已经是AI数据领域最大的玩家了。Edwin说：我宁愿做陶哲轩，也不做巴菲特。陶哲轩是当今最伟大的数学家之一，这句话的意思是，他追求的是推动人类知识的边界，而不是账户上的数字。听起来很理想主义，但他真的做到了。公司100人不到，年营收10亿美元，他依然每天泡在数据里，每次新模型发布他都会亲自做深度分析，有时候跟研究团队聊到凌晨三点。他说自己讨厌开会、不会销售、不会做那些典型的CEO该做的事。但正因为他坚持做自己，公司才能招到真正热爱这件事的人，才能服务那些真正在意数据质量的客户。Edwin的为什么很清楚：他想让AI真正造福人类，而不是变成另一个吸走我们注意力、放大我们偏见、让我们变得更懒更蠢的工具。访谈快结束时，主持人问他有什么想对创业者说的。他说：我希望早点知道，你可以通过埋头做出真正好的东西来建立一家成功的公司，而不需要整天发推、炒作、融资。你不需要变成另一个人。我觉得这段话不只适用于创业者。在这个算法主导、流量为王的时代，我们每个人都面临着类似的选择：是追逐短期的反馈和关注，还是沉下心来做真正有价值的事情？Edwin选择了后者，然后证明了这条路也能走通。也许我们应该多听听像他这样的人的声音，那些真正关心自己工作的人，那些在意工作对世界影响的人。
