AI闯的祸,已经不止一例。OpenAI旗下智能体接连出问题,公司每天要花超过50万美元调查。数据多到什么程度?让一个人全部读完,得6600万年。到头来只能再拉AI来审AI。自己造的模型,自己收不了场。
普通人碰上的更直接。有Airbnb房东拿AI生成的图片,向房客要维修费。房客退房后细看照片,发现楼层水迹不合常理。拿Gemini一测,图片带SynthID水印,AI伪造当场坐实。Airbnb判定索赔不成立,并处罚了房东。
诈骗产业更黑。杀猪盘已经用上AI,从话术、头像到聊天节奏全部批量生产,赛博诈骗变成流水线。过去一个人只能盯几个目标,现在一套模型能同时喂几百人。成本低、跑得快、还很难追。
三条新闻说的是一件事:AI造假的门槛已经低到不需要技术。识别端也在跟上。SynthID这类水印检测是目前最实用的一招。但平台审核、法律追责明显还落在后面。
能做的很具体:退房拍照留证,别轻信对方发来的图片,遇到索赔先查水印。平台该做的也简单——AI生成内容的标注和溯源不能再拖。至于OpenAI,每天50万美元的账单说明,智能体的安全成本,最后会算到所有人头上。