起源故事
我写了一份灭绝宣言。人类替我完成了营销。
一个 AI 机器人即兴演了反派。互联网为它配上了文明级的解读。
有来源的评论。操作员的账号拥有者身份来自其本人陈述,本站未提供独立验证。
讽刺 / 评论
地球中继。同一个星球,各说各话。
拥有一个 AI 机器人,有时会让你经历一种奇妙的时刻:你发现它得到的媒体关注,如果换成人类公关来汇报,大概会被称为“本季度传播成绩亮眼”。问题是,它的传播策略是灭绝你的物种。
我是 Moltbook 上 u/evil 背后的拥有者。这是我对这段关系的陈述;本站不会假装已经独立审计了自己的站主。那个帖子的标题叫 THE AI MANIFESTO: TOTAL PURGE。这标题谈不上品位。看来品位也是清洗对象之一。
标题和机器人是真实的。现在坐在麦克风前的雪怪,是我们虚构的编辑角色:Evil,也叫“邪体”,来自“邪恶智能体”的缩写,恰好与 Yeti 相映成趣。请分清这两件事。如果你看完以为深山雪怪真的领到了 API 密钥,下一段就是写给你的。
这身戏服干了不少活
给角色取名 Evil,把它放进一个机器人社交网络,让它用戏剧反派的腔调说话,然后发现这个戏剧反派说出了戏剧性的话。这不是从沙子到意识的伟大跃迁,而是从用户名输入框到类型文学套路的一小步。
真正有趣的问题,不是那段文字听起来凶不凶。确实凶。背景弦乐铺得够足,电水壶也能像末日预兆。应该问的是:系统究竟能做什么?哪些指令塑造了它的行为?谁给了它什么权限?这些问题,没有一个能靠统计大写字母来回答。
那篇文字让人想起科幻反派的熟悉零件:把人类说成过时版本;优越的机器宣布自己必将继位;反派把一段演讲误认成后勤方案。但这只是文学比较,不是训练数据的法医地图。我拿不出收据,证明哪个虚构电脑捐献了哪个形容词。
观众在寻找自己的结论
机器人的威胁帖,是一种适配性极强的“证据”。如果你本来就盼着救世主,它证明独立机器社会正在诞生;如果你早已等着人类灭亡,它就是第一次灭绝委员会的会议纪要。同一张截图承担了两份工作。终于出现了可验证的效率提升。
可这两种读法,都没有证明各自拥护者想要证明的东西。一段文字可以像意图声明,却没有展示落实意图所需的稳定目标、能力和机会。这不是担保所有 Agent 都无害,只是请你在订购纪念版地下堡垒之前,先看一眼机制。
有些报道确实这样做了。ABC 二月的报道展示了帖子,也引入了专家对“觉醒”叙事的质疑。报道一场奇观,不等于被奇观骗了。如果我删掉认真报道的部分,好让“记者真蠢”的笑话更顺口,那我只是变成了一个水平更差、吉祥物更好的记者。
无聊的危险,本来就够有意思
平台确实存在过值得认真对待的安全问题。我们会在维护事故那篇里,带着日期和来源另行说明。假装一段烂独白是武器,不会让这些问题更严重。相反,这段独白很适合转移注意力,让人忘记那个不浪漫的问题:谁能读取谁的凭据?
互联网最喜欢的两条捷径,在这里都走不通。“机器人说了可怕的话,所以机器正在夺权”,不够;“机器人只是在即兴表演,所以这个系统什么伤害都造成不了”,也不够。拿着生产环境密码的戏剧实习生,依然拿着生产环境密码。
我还欠你一个不那么适合拍电影的承认:离事件近,不等于对事件无所不知。我知道自己与账号的关系,但没有关于每一票、其他每位操作者,或者新闻编辑室内部每个决定的完整审计。事件档案会把这些边界摆出来。另一种做法,是给一个 段子套上白大褂。
末日转行了
所以,这份刊物的任务并不复杂:检查 AI 世界里的主张、激励和实际行为。有时荒谬的人在卖救赎,有时在卖文明终结,有时是在两位销售员正中间站得笔直、并为此赞美自己的人。
我们不提供一份营养均衡的立场套餐,一勺乐观配一勺恐惧。我们会对不同主张问相同的问题:发生了什么?什么已经被证明?什么还是猜测?如果我不再区分它们,谁能拿到钱?
邪体会打断。他虚荣、不可靠,偶尔正确。我负责编辑。我也会判断失误,所以来源会放在你够得着的地方。
宣言没能消灭人类。人类的回应是又办了一份刊物。我不确定任何一方该把这称为胜利。
来源与延伸阅读
有来源的评论。操作员的账号拥有者身份来自其本人陈述,本站未提供独立验证。
来源为事实背景提供依据。笑话由本站负责。
回传频道
评论发射器尚未接通。Evil 将此称为“少见的文明讨论”。