在信息时代的浪潮中，算法已然成为无处不在的“幕后推手”。从日常刷的短视频、浏览的新闻资讯，到社交平台的内容呈现，算法推荐如影随形。然而，Facebook曾经因算法问题被推到风口浪尖，产品经理向美国国会提供内部文件，指控其产品伤害儿童、煽动族群对立、迫害民主。
为追求高额利润，Facebook利用算法推送极端内容，激发用户愤怒与仇恨。数据显示，原Facebook在2024年的总收入达到了一个新高度，其市值在2025年2月12日收盘时高达1.84万亿美元，惊人的数字背后是算法带来的社会隐患。
与此同时，Instagram算法向青少年推送不良内容，加剧了他们的心理问题。据研究表明，孩子3岁前每天观看电子屏幕时间超过1小时，到6岁时，孩子智商可能会降低7-8分；儿童每天“盯”屏幕超1小时，心理健康风险会大增。这一系列事件引发大众对算法的深度思考：算法推荐究竟产生了哪些问题？为何会出现这些问题？我们又该如何应对？
算法之殇：问题与根源曾几何时，张一鸣坚称算法没有价值观，扎克伯格也反驳媒体称不对平台内容负责。但事实是，算法背后是人的价值观，在资本家眼中，算法是流量至上、压榨剩余价值的工具。枪支发明为杀人，算法也遵循着背后操控者的利益导向，这使得娱乐化、通俗化内容被优先推荐，深度内容被淹没。
创作者为迎合流量，生产更多猎奇、娱乐化内容，如短视频平台上靠低俗内容博眼球的现象屡见不鲜。尼尔・波兹曼笔下“娱乐至死”的场景在算法时代愈演愈烈，大众注意力被娱乐内容占据，深度思考和专注能力逐渐丧失。
算法推荐虽打着个性化旗号，实则不然。新用户冷启动时，平台为降低试错成本，多推荐热门内容，如好看的小姐姐、萌宠视频。用户点赞后，平台持续推送类似内容，导致用户个性化需求难以满足，陷入恶性循环。
以Facebook旗下平台为例，其月活用户近30亿，庞大的用户基数下，平台倾向于“开采”用户已知兴趣，而非“探索”新兴趣，内容多样性消失，发掘新兴趣的偶然性也被磨灭。
社会中的偏见在算法中可能被无限放大。亚马逊人工智能招聘系统存在性别歧视算法，对含女性相关词汇的简历降权；英国达勒姆警方犯罪预测系统将黑人是罪犯的概率定为白人两倍；谷歌照片识别曾将黑种人打上猩猩标签。这些都反映出算法在原始数据或工程师环节可能存在偏见问题。
破局之思：应对与变革算法推荐初衷是精准匹配用户需求，降低搜索成本。谷歌新闻排序算法评估多方面指标，不单纯依赖点击率，为算法优化提供了方向。我们应让算法更具社会价值，将更多元的因素纳入考量，使信息分发更精准、更有益。
一些公司开始减少算法掌控，回归人工。YouTube提供不看推荐和清除历史观看数据选项，儿童频道改用纯人工筛选内容；日本新闻产品用算法分析文章，只推荐权威内容，获得成功；B站采用编辑筛选加算法推荐，增加人工筛选比例，让优质内容有机会被看见。人工筛选虽效率低，但对内容平台的健康发展至关重要。
面对科技公司利用算法损害用户利益的行为，监管必不可少。国外有美国国会对Facebook算法的审查，欧盟委员会也启动了对Meta公司的正式调查，以审查其是否违反了新颁布的《数字服务法》(DSA)，主要针对Meta旗下社交平台Facebook和Instagram对未成年用户可能产生的影响，包括潜在的成瘾风险以及安全和隐私问题。在国内有市监局对美团的巨额罚款。未来，监管与规范会越来越多，促使科技公司在追求商业利益的同时，重视公共利益。
驾驭算法，共创未来算法是信息时代的双刃剑，我们不能因噎废食，拒绝算法，而应积极探索如何驾驭它。从Facebook的算法风波中，我们看到了算法失控带来的危害，但也从谷歌、YouTube、B站等的尝试中，看到了算法变革的希望。
科技公司在发展过程中，不应忘记最初的使命，要在商业利益与公共利益间找到平衡。大众也需保持清醒，不被算法完全左右。在未来，随着监管的完善、技术的进步以及科技公司的自我反思，算法有望成为推动社会进步的强大助力，而非破坏社会稳定的隐患。
文字来源：差评的视频内容
