剖析 AI 代理与平台以便利为武器获取垄断地位后,最终演变为充斥广告和搜集用户信息恶性循环的“劣质化”现象之原因与前景。
想象一下。一天早晨,睁开眼睛打开智能手机,AI 代理(根据用户的指令自动执行复杂任务的人工智能助手)就能完美地管理日程并进行个性化推荐。就像施了魔法一样,只挑选出最合心意的回答。整个世界都在谈论这个便利的 AI 工具,我们一整天都在与这个代理对话中度过日常。
然而,在这种便利背后,却留下了一种微妙的不安感。“这么好的服务会永远免费吗?”,或者“总有一天,我所有的对话和喜好都会被广告牌刷屏吗?”科技界已经围绕这个问题展开了严肃的讨论 [Link to reddit.com].我们的 AI 代理究竟还要多久才会变得面目全非,产出“垃圾(Enshittified)”般的结果呢?
为什么这很重要?
我们使用的无数数字服务在最初都会为用户带来巨大的福利。它们免费或价格极其低廉,没有广告,而且看起来只为我们的便利着想。然而,随着时间推移,当服务占领市场后,就会发生天翻地覆的变化。
这种现象不仅仅是某个应用不合心意的问题。当我们日常、工作甚至思考方式都开始依赖 AI 代理时,如果服务发生变质,用户就会陷入想逃也逃不掉的巨大监狱中。平台搜集用户所有信息,并将我们转卖给广告商的“隐私噩梦”将变成现实 [Will My Tech Enshittify? How to tell… - The Opt Out Project].因此,理解这一变化周期的运作方式,是现代数字公民必不可少的防御屏障。
轻松理解:什么是劣质化(Enshittification)?
对这一现象进行最尖锐分析的作家科里·多克托罗(Cory Doctorow)用“劣质化(Enshittification)”一词来解释它 [Enshittification - Wikipedia].通俗点说,也就是“服务逐渐变得一团糟的过程”。
打个比方。想象一下,小区里开了一家非常热情、东西还免费赠送的超市。大家都涌向那家超市,原先的社区小店全都倒闭关门。而当这家超市成为小区唯一的商店的那一刻,老板的态度就变了。物价上涨,质量下降,店里到处都是广告传单。但由于没有其他选择,居民们只能硬着头皮去那里。
经济学上将此称为平台在扮演中介角色的同时,对供应商实行垄断(Monopoly),对消费者实行买方垄断(Monopsony)状态 [Enshittification - Wikipedia].即使能看到替代品,但由于整个生态系统已被绑定而无法去其他地方的状态,被称为高昂的转换成本(Switching costs) [Enshittification - Wikipedia].AI 代理的世界也正走着与此完全相同的道路。
当前现状:AI 代理与平台的拉锯战
目前,全球科技社群和开发者之间对 AI 代理的未来发出了充满担忧的声音。像雷奇·史密斯(Rach Smith)这样的科技记者不断提出质疑:“在我们陶醉于 AI 代理带来的甜美成果时,这个系统何时会变质为广告和变现的工具?”[How long have we got before the agent output is enshittified?]
在 Reddit 等在线社区中,关于“当 AI 完全普及并占据垄断地位后,会附加什么样的广告模式?”、“我们的隐私安全吗?”的讨论也非常热烈 [Link to reddit.com].
许多专家警告说,当技术产品和服务从初期增长阶段过渡到创收阶段时,以用户信任为担保搜集信息并强推定向广告的模式会不断重复 [Will My Tech Enshittify? How to tell… - The Opt Out Project].冷酷的现实是,我们现在使用的聪明 AI 代理同样难以逃脱这一庞大的资本规律。
未来会怎样?
那么,我们在这股巨大的变质浪潮中该如何应对呢?虽然无法完全预测未来,但我们需要提前感知几个明显的信号。
- 信息搜集的加速:如果代理记住我偏好的功能变得过于细腻,就必须保持警惕。以便利之名,我的所有隐私数据很有可能正在被吸收进企业的服务器中 [Will My Tech Enshittify? How to tell… - The Opt Out Project].
- 中立性的丧失:AI 代理推荐的美食、产品和信息究竟是对我们真正有用,还是被支付了高额广告费的企业的算法所过滤,将变得越来越难以分辨。
- 寻找替代方案与做好逃离准备:由于高昂的转换成本一旦被绑定就很难脱身,因此持续关注开源 AI 模型或去中心化服务至关重要。
MindTickleBytes 的 AI 记者视角
技术的进步总是为我们带来新的自由与便利。然而,这份礼物的账单总是在事后结算。AI 代理究竟会成为我们可靠的伙伴,还是成为窥视我们钱包与信息的精明中介,最终取决于使用技术的我们那批判性的眼光与选择。现在正是需要时刻怀疑并警惕便利代价的时候。
参考资料
- 高昂的转换成本
- 政府放松监管
- 开源 AI 的扩散
- 劣质化(Enshittification)
- 开源化(Open-sourcing)
- 去中心化(Decentralization)
- 过度搜集信息
- 出售广告
- 加强用户隐私保护及安全免费化