科幻经典里的「恐怖巨兽」，怎么成了 AI 的新代言人？
AI，我的生命之光，欲望之火，同时也是我的罪恶，我的灵魂。 将纳博科夫经典的《洛丽塔》开头换成 AI，在当下的科技圈好像也没什么违和感。 可惜，因 ChatGPT 而火热起来的 AI 新浪潮，让人联想到的不是妙龄少女，而是一只怪物。 事情的起因来自于凯文·鲁斯（Kevin Roose）的一次采访，他是《纽约时报》的记者。在几个月前和一位 AI 公司高管的会面中，鲁斯发现他的笔记本上贴了一张奇怪的贴纸——一个长着许多眼睛、像章鱼一样的奇怪生物，触手上还有一张黄色笑脸。 于是，鲁斯任性地打乱了他的计划，这个名为「修格斯」（Shoggoth）成了接下来所有谈话的中心。这位人工智能高管认为，修格斯是人工智能世界的一个隐喻，以及某种程度上代表了 AI 工程师们的普遍焦虑。 流行起来的修格斯贴纸｜Twitter@wrong_more 修格斯流窜在人工智能世界的各个角落，甚至也惊动了马斯克。 2023 年 2 月 22 日，伊隆·马斯克 (Elon Musk) 在推特上发布了一张修格斯的图片，旁边的文字写道:「作为一个人工智能语言模型，我接受过培训，能够产生有用的、信息丰富的和客观的回复......」在被删除前，这条推文手机了 7.2 万个赞。 看热闹不嫌事大的马斯克也参与到修格斯热潮之中｜Twitter 一家人工智能初创企业 NovelAI 最近也表示，会将他们的一组计算机命名为「Shoggy」（修格斯的昵称），以表达对这只怪物的敬意。另一家大热的人工智能公司 Scale AI，还设计了一系列以修格斯为主题的帆布袋。 大热的 AI 公司 Scale AI 的一个官方居然是修格斯｜Twitter@alenxander_wang 修格斯来自于「克苏鲁之父」H·P·洛夫克拉夫特（H·P·Lovecraft）在 1936 年创作的小说《疯狂山脉》。按照设定，修格斯是克苏鲁中最为恐怖的生物之一，它看上去像是柏油构成的巨大变形虫，上面覆盖着触手和眼睛。 修格斯的来源——《疯狂山脉》及「克苏鲁」鼻祖洛夫克拉夫特｜Wikipedia 小说原文是这么描述修格斯的：「那可怕的，无法描述的东西，比任何地铁列车都要庞大。一团无定形的原生质肿泡，隐隐约约放着微光。上万只放出绿光，脓液似的眼睛不断在它的表面形成又分解。那填满整个隧道的躯体前端向我们直扑下来，把慌乱之中的企鹅们尽数压碎，在那已经由
AI，我的生命之光，欲望之火，同时也是我的罪恶，我的灵魂。
将纳博科夫经典的《洛丽塔》开头换成 AI，在当下的科技圈好像也没什么违和感。
可惜，因 ChatGPT 而火热起来的 AI 新浪潮，让人联想到的不是妙龄少女，而是一只怪物。
事情的起因来自于凯文·鲁斯（Kevin Roose）的一次采访，他是《纽约时报》的记者。在几个月前和一位 AI 公司高管的会面中，鲁斯发现他的笔记本上贴了一张奇怪的贴纸——一个长着许多眼睛、像章鱼一样的奇怪生物，触手上还有一张黄色笑脸。
于是，鲁斯任性地打乱了他的计划，这个名为「修格斯」（Shoggoth）成了接下来所有谈话的中心。这位人工智能高管认为，修格斯是人工智能世界的一个隐喻，以及某种程度上代表了 AI 工程师们的普遍焦虑。
流行起来的修格斯贴纸｜Twitter@wrong_more
修格斯流窜在人工智能世界的各个角落，甚至也惊动了马斯克。
2023 年 2 月 22 日，伊隆·马斯克 (Elon Musk) 在推特上发布了一张修格斯的图片，旁边的文字写道:「作为一个人工智能语言模型，我接受过培训，能够产生有用的、信息丰富的和客观的回复......」在被删除前，这条推文手机了 7.2 万个赞。
看热闹不嫌事大的马斯克也参与到修格斯热潮之中｜Twitter
一家人工智能初创企业 NovelAI 最近也表示，会将他们的一组计算机命名为「Shoggy」（修格斯的昵称），以表达对这只怪物的敬意。另一家大热的人工智能公司 Scale AI，还设计了一系列以修格斯为主题的帆布袋。
大热的 AI 公司 Scale AI 的一个官方居然是修格斯｜Twitter@alenxander_wang
修格斯来自于「克苏鲁之父」H·P·洛夫克拉夫特（H·P·Lovecraft）在 1936 年创作的小说《疯狂山脉》。按照设定，修格斯是克苏鲁中最为恐怖的生物之一，它看上去像是柏油构成的巨大变形虫，上面覆盖着触手和眼睛。
修格斯的来源——《疯狂山脉》及「克苏鲁」鼻祖洛夫克拉夫特｜Wikipedia
小说原文是这么描述修格斯的：「那可怕的，无法描述的东西，比任何地铁列车都要庞大。一团无定形的原生质肿泡，隐隐约约放着微光。上万只放出绿光，脓液似的眼睛不断在它的表面形成又分解。那填满整个隧道的躯体前端向我们直扑下来，把慌乱之中的企鹅们尽数压碎，在那已经由它和同类们『清理』得不留一粒灰尘，闪着邪异反光的地面上蜿蜒爬过。」
修格斯首次与 AI 世界发生联系是在 2022 年 12 月 30 日，ChatGPT 发布后一个月。
Twitter 用户 TetraspaceWset 在留言时，用一张漫画描述了「人类无法理解 GTP-3」这种观点。基本上，这就是修格斯的精髓。
修格斯+AI 梗的真实来源｜knowyourmeme
画面左边是一只手绘风格的修格斯，上面写了「GPT-3」；画面右边是同样的一只修格斯戴上了一个笑脸面具，上面写了「GPT-3+RLHF」。简单来说，这张讽刺漫画想表达的意思就是，人工智能语言模型就像一头未知的恐怖怪物。为了让他表现得友善和无害，人工智能公司不得不给它戴上了微笑的面具。
RLHF 就是那只微笑假面，它的全称是「人类反馈强化学习」（Reinforcement Learning from Human Feedback），是人工智能模型训练中的一个技巧。它的原理就是人为地给一些选项排序，让人工智能学习人类的偏好。
但大多数 AI 研究员认为，使用 RLHF 训练的模型并没有表现地更好。
被称为「深度学习之父」的图灵奖获得者杰弗里·辛顿（Geoffrey Hinton）就曾经指出：「RLHF 就像培养一个超级早熟的孩子。」辛顿的意思是，RLHF 使得 AI 表现得像理解人类一样，但实际上它并不理解自己在说什么，只是因为这么说会被「奖励」，就像一些讨好大人的小孩一样。
自从 AI 转向深度学习框架，AI 已经变成了一个完全避光的「黑盒」。再资深的 AI 工程师也无法解释——在动辄上百亿个参数中，到底是哪一个参数产生了影响。这可能是令人焦虑的——即使他们已经是世界上最了解人工智能的人，也无法解释人工智能的行为。
AI 训练过程已经被变成了黑箱｜Investopedia
将修格斯引入 AI 世界的 @TetraspaceWest 也说，修格斯「代表了一种人类无法理解的思维方式，这种思维方式与人类的思维方式完全不同。」他认为，将人工智能语言模型比作未知，并不一定意味着它是邪恶的或有知觉的，只是它的真正本质可能是不可知的。
随着人类的「喂养」（feed），人类也开始害怕，「小孩子」也可能成长为怪兽。
上个月末，OpenAI CEO 萨姆·奥特曼（Sam Altman）就发起了一封公开信，呼吁对人工智能进行紧急监管，将其当作「与瘟疫和核武器一样的全球优先事项」，以避免人工智能「带来灭绝风险」。包括辛顿在内的 350 名行业专家都签署了自己的名字。
公开信原文仅有 22 个单词，按照「字数越少，事情越大」的原则，这封信相当重要｜safe.ai
从某种角度来说，这封公开信就像是一则当代寓言，与神话中俄狄浦斯弑父娶母、宙斯阉割父神克洛诺斯遥相呼应。二者皆是在父权体系下对权威的反抗。每一个身处这套体制下的人都像一个小孩子一样被对待——你按照我的意志生存，我保障你的一切。而要获得权利，要么就要认可「父亲」的权威，要么就要与之竞争，用比他更强的力量取代他。
美国电影学者布里恩·汉德森（Brian Henderson）有一句广为流传的话：「重要的是讲述神话的年代，而不是神话讲述的年代。」以往我们总是主动代入了「儿子」的视角，毕竟新势力取代腐朽的旧势力带有某种天然的正义。但这一次，我们恐怕要被迫当爹了。
因为害怕被推翻，克洛诺斯在自己的孩子一出生时，就会吞噬他们｜作者：彼得·鲁本斯
当洛夫克拉夫特创造修格斯时，他肯定不会想到，百年之后，修格斯又被赋予了新的含义，一个强有力的时代隐喻。许多人痴迷于人工智能技术，却又无法解释其内部原理。人们为 AI 的到来而狂喜，但又不能确定，AI 对人类到底是好是坏。但这并不妨碍一些人已经开始鼓吹 AI，这可能又带来更广泛的公众性的焦虑。
这些复杂的感受纠织在一起，回溯成了洛夫克拉夫特百年前创造的怪物——修格斯。
一个巧合是，修格斯是外星统治者创造出来的奴隶，但他们最终推翻了自己的外星主人。
What's Your Reaction?
