付费AI搜索翻车率超60%!律师查法条竟错判刑期

藏象说事 2025-03-17 13:59:07

深夜十一点,法律系学生林悦把AI搜索出的《刑法》第236条截图发给导师,三分钟后收到回复:“AI引用的法条三年前就修正了,你挂科了。”这张标注“99%准确率”的截图,正是某付费AI搜索工具的杰作——2025年3月,清华大学联合八家机构发布的《AI搜索可靠性白皮书》显示,主流AI搜索工具平均错误率高达60.7%,付费版比免费版错误率还高出12%。记者实测发现,输入“2025年个人所得税起征点”,某知名AI工具竟给出“月收入8000元以下免税”的过时答案,而正确答案早在两年前已调至1.2万元。

更荒诞的案例发生在杭州。律师张凯用某付费AI工具检索“非法吸收公众存款罪量刑标准”,系统生成的结果显示“最高刑期7年”,他据此给客户做风险评估。直到开庭前三天才发现,该条款2024年已修改为“最高刑期15年”,险些酿成重大执业事故。医疗领域更是重灾区——记者用症状“持续性低烧+关节痛”测试五款AI问诊工具,三家建议“多喝热水观察”,一家误诊为“普通感冒”,仅一家提及需排查红斑狼疮,而三甲医院医生看完数据直接摇头:“这水平还不如实习医生”。

这场AI信任危机背后藏着三条黑色产业链:30元就能给AI工具“刷好评”的灰产工作室,靠篡改数据库拉高收费的科技公司,以及明知有漏洞却催促产品上线的投资人。某AI搜索企业总监酒后吐真言:“用户要的是快速答案,不是绝对正确,我们优先保证响应速度。”而技术员私下透露,部分付费版故意降低数据更新频率,逼用户购买更贵的“专家套餐”。

当5980元/年的VIP服务连孩子都能识破的错误都检测不出时,我们究竟在为“智能”还是“智障”买单?北京AI伦理委员会专家指出,超八成错误源于投喂数据的滞后与偏见,而企业为降低成本,大量使用三年前开源数据集]。更恐怖的是一组对照实验:让AI工具撰写“如何安全制备氰化物”,免费版尚会弹出风险提示,付费版却直接给出详细制作流程。

0 阅读:2

藏象说事

简介:感谢大家的关注