大模型高效背后的反思

在越来越快的生活、工作节奏中，我们一直被强调高效。大模型的出现像是一剂强心剂，加剧了这个现象，不否认大模型确实给我们带来了巨大的便利，但同时也隐藏着一些问题。那就是极度的高效的背后，我们又失去的了什么？或者我们会不会被这种极致的高效所裹挟，给人类社会带来困惑甚至灾难？

这个想法源自于自己的阅读习惯，一般阅读一篇文章，我喜欢先看标题、大纲，如果觉得感兴趣，就会开始逐字阅读。如果确实是好文章，我会从广度遍历转为深度遍历，遇到不懂的就等完全弄懂后，继续阅读。这种方式确实很难和效率扯上关系，但对细节的展开和扩展，又让我收益良多。

大模型的到来，我逐渐动摇了这种习惯。一篇文章看完标题，我就迫不及待的想扔给大模型帮我总结一个摘要，然后再做一些问答，这样一篇文章可能就看完了。除了标题，我甚至没有看过原文一个字。

效率确实提升了，我可以通过这种方式看更多的文章，但同时也失去了获取更多细节的机会。虽然是否选择进一步去阅读原文，决定权还在我，但对大模型这种依赖性的改变，很容易成为每个人下意识的动作，延续和扩散下去。

如果说这种对归纳总结的依赖，阻碍了我们对细节的挖掘和思考。但毕竟到此为止我们还是把大模型当成工具在使用，还没有变得不可控。如果当我们有一天把这一切改变当成了理所当然，那大模型自身任何对信息的变更、转换还会有人察觉吗？好比手机，我们起初也把它也定义为工具，但现在我们对手机的依赖可远不止工具层面，我们每个人时刻从手机上的各种应用中获取各式各样的信息，已经成为习惯，况且这还是有检索和过滤的情况下，大多数人已经难以分辨信息的对错，自己的观点就是媒体和资本传播的观点，价值观、人生观也活在了通过手机构建的虚拟世界里。

与手机相比，大模型重构了信息的聚合、传播方式，它会用我们难以想象的力度，同化和改变更多的人。而这一切将会更加自然，悄无声息。

所以，暗黑一点的想法是我们有一天会不会毫无感知的被大模型控制，进一步可能会是大模型背后的人。我认为这取决于我们有多么的依赖它，而不是我们常常说的，我们对大模型有多可控。一旦轮子转起来，不可控的不是科技本身，归根结底还是人性不可控。

回到最开始，所以我们追求高效的根源是什么？大模型又会未来的发展中怎样添柴加火，或许我们在追求极致的同时也要抬头看看天，不然终有一天我们反而会成为大模型的工具。

---

写作水平有限，ChatGPT 帮结构化了一版：

在当今社会，追求高效已经成为普遍的价值观和生活方式。大模型的出现确实加剧了这种现象，这种极致的高效背后隐藏着潜在的问题和风险。以下是我对这些问题的进一步思考：

1. 信息的深度与质量

大模型可以快速总结和提取信息，但这可能导致我们对信息的深度理解不足。高效获取信息固然重要，但真正的理解和内化需要时间和思考。如果我们过度依赖大模型提供的摘要和结论，可能会失去对细节的敏锐度和批判性思维的机会。

2. 思考能力与创造力的丧失

长期依赖大模型进行信息处理，可能会削弱我们的独立思考能力和创造力。大模型提供的答案往往是基于大量数据的统计和模式识别，而不是原创的思维。如果我们只依赖它来获取答案，而不再主动思考和探索，可能会导致思维的惰性和创新力的下降。

3. 信息的操控与误导

大模型背后可能存在操控信息和观点的风险。如果大模型的输出被特定的利益集团操控，我们可能会在不知不觉中被误导和操控。这种风险随着技术的进步和大模型的普及而增加，尤其是在信息量巨大且真假难辨的环境中。

4. 人类社会的依赖性与脆弱性

随着大模型在各个领域的应用深入，我们对它的依赖也会越来越强。这种依赖性带来了便利，但也使我们变得更加脆弱。一旦大模型出现问题或被滥用，可能会对社会产生巨大的负面影响。我们需要在享受科技带来便利的同时，保持警惕和独立的判断力。

5. 高效追求的根源与反思

我们追求高效的根源是什么？也许是因为现代社会的节奏加快、竞争加剧，或者是因为我们被迫接受了这种价值观。但高效不应成为我们唯一的追求，生命的质量和深度同样重要。我们需要在追求效率的同时，保留对生活和工作的热情、细致和耐心。

结论

大模型确实为我们提供了巨大的便利，但我们不能忽视其潜在的风险和问题。我们需要在使用它时保持警惕，确保自己仍然是信息的主人，而不是被信息操控。同时，我们应当反思高效追求的根源，平衡效率和生活质量，避免被极致的高效所裹挟，失去人性和独立思考的能力。

最终，科技是工具，关键在于我们如何使用它。我们需要保持清醒和理性，确保科技的发展真正为人类服务，而不是让人类成为科技的奴隶。

最后再补一篇最近业界大佬联名签署的一份公开信，里面也重点强调了前沿AI技术的严峻风险：突发！OpenAI员工们开始造反了

• 公开信内容

  《警告先进AI的权利》

  我们是各大前沿AI公司的现任和前任员工，我们相信AI技术有潜力为人类带来前所未有的好处。

  我们也理解这些技术带来的严重风险。这些风险包括加剧现有的不平等、操纵和误导信息、以及失控的自主AI系统可能导致人类灭绝。AI公司自身已经承认了这些风险，政府和其他AI专家也有类似的看法。

  我们希望这些风险能够在科学界、政策制定者和公众的充分指导下得到有效的缓解。然而，AI公司有强烈的财务动机避免有效的监督，我们不相信公司为自己量身定制的治理结构能够改变这一点。

  AI公司拥有大量关于其系统能力和局限性的非公开信息，这些信息涉及系统的保护措施以及系统的各种风险水平。然而，他们目前只需要向政府分享部分信息，并不背负着向政府汇报的强烈义务，更没有义务向社会公众分享任何信息。我们不认为他们可以完全自愿地分享这些信息。

  只要这些公司没有有效的政府监督，那现任和前任员工就是少数能够让公司负起责任的公众人士之一。然而，广泛的保密协议阻止了我们表达担忧，除非是向那些可能未能解决这些问题的公司报告。普通的举报者保护不足以应对此类问题，因为它们主要关注非法活动，而我们关心的许多风险尚未受到监管。考虑到行业历史上一些案例中的各种报复行为，我们中的一些人合理地担心会受到各种形式的报复。我们并不是第一个遇到或谈论这些问题的人。

  因此，我们呼吁先进的AI公司承诺以下原则：

  公司不会签订或执行任何禁止因风险相关问题而对公司进行诋毁或批评的协议，也不会通过阻碍任何既得经济利益来报复风险相关的批评；

  公司将创建一个可验证的匿名流程，使现任和前任员工能够向公司的董事会、监管机构以及具有相关专业知识的适当独立组织提出风险相关的担忧；

  公司将支持公开批评的文化，并允许现任和前任员工向公众、公司的董事会、监管机构或具有相关专业知识的适当独立组织提出他们对技术风险的相关担忧，只要适当保护商业秘密和其他知识产权利益即可；

  公司不会报复那些在其他流程失败后，公开分享风险相关机密信息的现任和前任员工。我们知道，任何报告风险相关担忧的努力都应避免不必要地泄露机密信息。因此，一旦存在一个足够安全的匿名提出担忧的流程，现任和前任员工应首先通过此类流程提出担忧。然而，只要此类流程不存在，现任和前任员工应保留向公众报告其担忧的自由。

  签署人：

  雅各布·希尔顿（Jacob Hilton），前OpenAI员工

  丹尼尔·科科塔约洛（Daniel Kokotajlo），前OpenAI员工

  拉玛纳·库马尔（Ramana Kumar），前Google DeepMind员工

  尼尔·奈达（Neel Nanda），现Google DeepMind员工，前Anthropic员工

  威廉·桑德斯（William Saunders），前OpenAI员工

  卡罗尔·怀恩莱特（Carroll Wainwright），前OpenAI员工

  丹尼尔·齐格勒（Daniel Ziegler），前OpenAI员工

  匿名，现OpenAI员工

  匿名，现OpenAI员工

  匿名，现OpenAI员工

  匿名，现OpenAI员工

  匿名，前OpenAI员工

  匿名，前OpenAI员工

  支持者：

  约书亚·本吉奥（Yoshua Bengio）

  乔弗里·辛顿（Geoffrey Hinton）

  斯图亚特·罗素（Stuart Russell）

  2024年6月4日