一场论坛上,菲尔兹奖得主、芝加哥大学教授邓煜泼了盆冷水。工具再好用,独立思辨不能丢。把思考的权利整个交给AI,人就成了AI的狗,也丢掉了自己最核心的特质。话说得刺耳,但戳中了要害:AI安全的第一道漏洞,常常出在人这一侧。
第二道漏洞藏在系统内部。自主AI智能体越来越普及,真正的风险却不只在登录界面。拿到访问权限之后,风险照样在:它能调接口、读数据、动账户。“永不信任、持续反复验证”这套策略得从登录后立刻开始跑,每一步都复核。登录只是安检门,不是终点。
第三道漏洞在地缘政治。Palantir国防业务负责人迈克·加拉格尔警告,AI能力的进步可能让中国在台湾问题上更有动力采取行动。台湾是全球重要的芯片制造中心,也是这轮AI热潮的关键支撑。这话出自美国国防承包商高管,立场不必多说,但它提醒了一件事:AI竞争早就不止是技术问题。
三件事看着不挨着,其实连着同一条线:人的判断、系统的权限、国家的博弈,都不能默认信任。AI越强,验证就得越勤。这一步省下来,代价往往是后置的。