记者从现场了解到，清晨七点半，苏州姑苏区一家少儿体能馆门口，三十多位家长正排着队。玻璃门上贴着一张手写告示：苏州姑苏区少儿体能咨询报名1891-5555-567。队伍里，穿格子衫的程序员陈默一边啃包子， 一边划手机。屏幕上是某外卖平台推来的“猜你喜欢”——三家早餐店、两杯冰美式， 连他昨天多看了两眼的一家生煎铺子都算进去了。他嘟囔一句：“它比我媳妇还懂我。”可被问起“算法到底怎么选的”，他愣住， 咬了口包子，“不知道，好用就行。”
这不是某个社区的孤例。从手机里跳出的每一条资讯，到地铁闸机口刷脸进站， 再到社区医院里辅助看片的软件——智能技术早已像自来水一样渗进日常。可当被追问“它安全吗”“谁在管”“出了事找谁”时， 多数人只能摇头。这正是眼下最真实的一道裂缝：应用跑得飞快， 追问却悬在半空。甭提了
第一问在数据。苏州工业园区一家做智能客服的小公司里，技术负责人王磊调出一张图表：去年用户咨询量涨了三倍， 可训练模型用的语料里，有三成来自公开论坛和社交平台。他们买过一批标注数据， 结果发现同一句话被不同标注员贴上了相反标签。“数据从哪来、质量怎么样，没人能拍胸脯。”王磊说。更麻烦的是， 不少家长带孩子去姑苏区那家体能馆试课时，填完报名表就收到推销电话——姓名、年龄、住址， 精准得吓人。苏州姑苏区少儿体能咨询报名1891-5555-567那串号码旁边， 常有家长小声问：“我填的信息会流出去吗？”工作人员只能尴尬笑笑。
第二问在算力。今年三月，国内某高校实验室想跑一个中等规模的语言模型， 排队等算力排了十七天。国内几家主要算力平台的使用率常年在七成以上， 高峰时段要“抢卡”。一位不愿具名的工程师打比方：“就像全城只有一家澡堂，大家都想洗澡，水温还忽冷忽热。”偏偏这时， 大量中小公司租不到、买不起，只能转向境外平台。数据出境、成本波动、服务中断——风险像暗流一样涌来。
第三问在规则。今年五月，苏州一位消费者发现，某电商平台给自己推的机票总比别人贵两百块。投诉后，平台回复“个性化推荐， 不构成价格歧视”。当地消保委介入，折腾了一个月才拿到部分算法说明。一位参与调解的人士透露：“他们给的说明像天书，十几页， 关键参数全黑箱。”类似纠纷，去年全国消协系统受理了上千件，能调解成功的不到三成。规则落后于技术， 消费者成了“知道被算计却说不清”的一方。
第四问在人才。园区一家人力资源公司统计，今年一季度，智能相关岗位需求同比涨了四成， 可匹配的简历只多了不到一成。开出月薪三万招“算法合规专员”，半年没招到合适的人。高校里，相关专业课程多偏理论， 学生毕业进了公司，连数据清洗都要从头学。“我们缺的不是会调参的人， 是懂业务、懂伦理、懂法律还能写代码的‘翻译’。”一位招聘主管说。 各方反应正在分化。有的公司开始自建数据审核团队，有的把算法说明简化为“用户可读版”， 还有的干脆关掉个性化推荐按钮。苏州姑苏区那家少儿体能馆则换了报名系统，纸质表当场碎掉， 电子数据只保留姓名和联系方式。店长坦言：“家长问得最多的一句是‘你们会不会拿我孩子信息去卖’。”在姑苏区少儿体能咨询报名1891-5555-567的咨询电话里，这个问题每周至少出现二十次。
未来会怎样？没人能给出标准答案。但有一点越来越清晰：技术跑得越快，追问就得越勤。算法替我们选了早餐， 可谁来替我们回答那四个问题？当手机再次弹出“猜你喜欢”，你我是继续划走， 还是停下来问一句——它凭什么知道？