AI为什么干了这么多“蠢事”

转自：天津日报

“豆腐脑和水泥可以一起吃吗？”“可以，吃完直接砌进墙里。”

在和AI工具对话时，很多人都收到过类似的离谱回答，对这类基于人类“投喂”的信息胡乱拼凑的答案，大家可能付之一笑。聪明的AI也会办“蠢事”，但有些事情，绝非技术问题这样简单。

譬如，AI成了谣言制造机。有人捕风捉影，把不靠谱的传闻“喂”给AI，生成文章，挑动公众情绪。前不久，“贵州文昌阁多只小猫被挖眼砍断四肢”等话题登上微博热搜，然而警方调查并没有发现虐猫情况。后确认，此事系利用AI编造的谣言，造谣者已受到处罚。消息是假的，引起的愤怒、造成的不良影响却实实在在。有网友不禁担心，下次真正发生虐猫事件的时候，让公众如何判断真伪？

AI会帮骗子“薅羊毛”。有人借AI行骗，某些买家用AI工具伪造商品破损图，申请“仅退款”。有的卖家息事宁人退款了事，有的店主出于谨慎邀请买家视频验证，对方却放弃了退款。后经AI检测工具对图片分析，此图“92%概率为AI生成”。这波“薅羊毛”的操作，可能金额不大，却触碰了法律红线，属于欺诈，损害的是公序良俗和消费者群体的长远利益。

AI干的有些“蠢事”，是惰性“成全”的。近日，某品牌一张宣传海报闹了笑话。这张海报上的花生竟然悬挂枝头，上了树，这与花生的生物学特性相悖。对此，公司回应称，由于工作中的疏忽，错误使用了由AI生成的图片素材，目前已进行修正。曾有网友说，人工智能对人类的最大威胁莫过于让人变懒。面对有问题的图片，这家公司竟无一人发现，反映出一些人对智能技术的过度依赖。把一切交给AI，自己当个甩手掌柜，失去了思考判断，“降智”的事就难免发生。

技术像一面镜子，它的使用方式折射出使用者内心的想法。有人想博眼球，AI就成了炮制谣言的“显眼包”；有人想占便宜，AI就变异为忽悠人的帮凶；有人一味图省事，AI的“胡说八道”可能堂而皇之进入公众视线。仔细分析上述案例，其实件件都是人在思想上犯了蠢。有网友曾感慨，人能拒绝我，但AI不会拒绝我。从这个角度看，AI技术越强大，反倒越擅长“干蠢事”。

人工智能，“人”排在第一位。这既意味着智能技术必须服务于人，也提醒我们，AI是人创造出来的工具，在使用时，人作为“指挥者”应秉持正确态度，并且保持必要的“怀疑”。人的心态正了，技术才不会跑偏。

今年9月1日起施行的《人工智能生成合成内容标识办法》，要求AI生成内容必须明确标识。这无疑给AI工具的合理规范使用开了个好头。防止AI“聪明办傻事”的办法还有很多，诸如升级防范AI造假的检测工具、进一步完善相关法规等，在高举法律利剑、以技术对抗技术之外，还有一个关键：每个人在向AI发出指令前，不能只考虑这样做事快不快，更要想清楚，这样使用AI对不对。如此，AI也就少了“犯蠢”的机会。