亚马逊近期悄悄关停了一套内部AI排行榜系统,原因竟是员工为了冲高排名,大量执行无实际意义的AI任务,导致公司的运算成本大幅飙升。
这套名为Kirorank的系统,原本是用来追踪工程师使用AI工具的活跃程度,以此推动AI在公司内部的普及。但部分员工发现排行榜会统计AI Token的消耗量后,便开始刻意让AI代理执行非必要的工作,只为提高排名、彰显自己的AI使用频率。
这与当年英国人在印度颁布法令,规定每打死一条眼镜蛇就能领取赏金,结果印度人为了赏金反而开始养殖眼镜蛇的情况如出一辙——当公司将AI使用率纳入绩效指标,员工往往会去优化数据,而非优化工作成果。
亚马逊高层坦言,这套排行榜的设计初衷本是出于好意,最终却演变成了一场Token消耗的军备竞赛。目前亚马逊也已开始调整AI使用的衡量方式,不再统计Token消耗量,转而关注AI是否真正帮助工程师产出了有价值的代码。