学生和牧师不应该使用 ChatGPT 的三个理由

"像机器一样工作的人，会长出一颗像机器一样的心"[1]。

这是维尔纳-海森堡（Werner Heisenberg）的名言。这句话的意思是，我们的机器，无论是简单的技术工具，还是无比先进的机器，其内在能力和最终目的都是伤害我们，而不是治愈我们。它们带来的不是完整，而是堕落。

但是，对这种一概而论的说法的直接反应可能是相当抵触的。难道我们真的要放弃电脑（我就是用它来打这篇文章的！）、手机，或者现代室内水管吗？当然，并不是所有的技术都能如此恶毒。但更有甚者，许多人指出，像 ChatGPT 这样的技术工具日益增多，其作用也越来越大。例如，最近雅各布-海利（Jacob Haley）就认为这些都是商品。它们不是会令我们长出像机器一样的心，而是提高了生产力。它们使牧师和学生能够很好地管理他们的资源和责任。因此，它们应该像其他工具一样，作为达到更大目的的手段来使用。

即便如此，我还是深有异议。技术不是单纯的中立工具。事实上，没有什么是中性的。每种形式的技术都有潜在的危险，有些危险要比其他危险大得多。而像 ChatGPT 这样的工具，虽然确实有其特定的作用，也不应该被普遍避免，但它们应该被非常小心地用于特定的目的，如果有的话。这些工具有可能让我们变得极不理性，成为恶习的奴隶，最终丧失人性。这种潜在的邪恶潜力是如此强大和具有腐蚀性，以至于虽然理论上可以无害地使用 ChatGPT 等工具，甚至可以从中获益，但风险与回报是不值得的。事实上，知识发现的回报最终可以通过其他更令人满意的方式获得。虽然这听起来像是鲁德主义者不切实际的天堂，但我还是鼓励大家继续阅读，并与我一起思考。

为了照搬雅各布支持 ChatGPT 的三条理由，我提出自己反对 ChatGPT 和类似技术工具的三条理由。虽然这听起来很鲁莽，但 ChatGPT 绝不会如此有创意，所以这就是我的立场。

1. ChatGPT 等技术让我们变得不理性

问题就在这里。ChatGPT 可以进行简单的运算。这就是它的目的：挖掘大量数据并根据大型算法汇编信息。但它无法完成需要创造力、想象力或理性的原始复杂任务。它可以模仿人类的创造性行为，比如创作一首诗或一首歌，但这些仍然是数据的随机组合，而不是真正的创造性产出。它能以简单的方式查找当地餐馆的价格，功能类似于谷歌的 excel 自动计算。它可以在互联网上快速搜索各种知名主题的摘要。但这些简单的数据查询只是谷歌的增强版。因此，它们和谷歌一样不可靠。然而，许多人却对 ChatGPT 信任有加。好像它能以值得信赖的方式协助进行重要的研究和创意生成。但事实并非如此。就像维基百科在很多情况下可以被阅读并且是真实的一样，它并不是一个值得信赖的来源。它也不是一个可以经常依赖的来源。

但归根结底，任何技术工具都无法单独完成理性所固有的复杂分析。理性是上帝赐予我们的天赋，这是我们无法独立创造出来的。技术只是一种人工制品，没有理性的灵魂。试图创造一台能以这种方式运作的机器，注定会失败。对设计的渴求最终取代了自然创造的现实，篡夺了造物主的创造性设计。在我们意识到之前，这条道路往往已经把我们引向了奴役性的依赖，它扼杀了理性的思考，而不是产生更多的思考。

2. ChatGPT 等技术教人恶习而非美德

避免使用 ChatGPT 等技术的另一个原因是，我们永远不会通过技术变得美德。它无法训练我们的智慧。它无法教会我们爱。它不能教会我们希望。它不能教会我们诚实。

相反，像 ChatGPT 这样的工具会经常怂恿并鼓励恶习。只要问问任何一位学术教授，ChatGPT 对他们的课堂有何影响。完全依赖 ChatGPT 进行论文创作的作弊行为几乎谋杀了传统的研究论文。同样，ChatGPT 对牧师来说也是无处不在的危险。牧师的时间有限，就像我们所有人一样。没有人能够计划到深夜突然的医院探访会打乱预定的布道准备时间。那么，在时间紧迫的情况下，什么在向牧师招手呢？依靠圣灵和经文？不是。而是 ChatGPT。它是救世主。但仅限于本周。当然，这会变成两周。三周。不久之后，什么布道会不再是简单的 ChatGPT？

如果认为这些情况不太可能或太离谱，那就太天真了。如果你是一名基督徒，你肯定知道一件事。你是一个罪人。即使在主的救赎之后，你仍然会受到诱惑，仍然会失败。那么，我们为什么要让那些引诱我们失败的工具拥有这样的自由呢？ 当然，所有被造物都在呻吟，这意味着万物都被罪和堕落所玷污。因此，我们不应该认为堕落和失败本身就是避免某种事物的理由，无论是技术还是其他。相反，我们应该仔细权衡 ChatGPT 等工具的成本和收益。我敢打赌，混乱已经远远超过了未来可能获得的好处。这听起来可能有些过于夸张。但我认为不是（而且坦白说，夸张是写一篇好文章的要素之一！）。我们应该严肃地面对家庭、教会和社会中美德的减少。

3. 我们失去做人的能力

归根结底，也是最重要的一点，技术能够摧毁我们做人的能力。

从根本上说，我们是理性和关系的动物。根据设计，我们需要其他人类。我们需要知识群体来讨论、思考，并确信自己是错的。机器是黑白分明的，而人类往往是灰色的。灰色带来了模糊性，也带来了质疑和真正学习的空间，同时也满足了我们与生俱来的渴望，那就是被了解、被爱，以及对世界复杂之美的惊叹。对 ChatGPT 等工具的依赖会缩短这一关系和智力探索过程，使我们失去通过智力和关系发现的成果，而这正是人类满足感不可或缺的一部分。

但人性也是有限的，在正确的方面。这正是菲利普-布恩（Philip Bunn）的优秀论文[2]所要论述的全部内容。虽然技术可能会带来直接的自由，但它往往会带来最终剥夺我们人性的沉重代价。我们为了眼前的生产力海市蜃楼而出卖灵魂。但人类的设计之一就是有限的。我们天性上是依赖性的生物。试图消除我们的依赖性就是再次建造巴别塔。有时候，低效率胜过高效率。而辨别这种区别需要一个人类。[3]

[1] 引自菲利普-D-布恩：《机器之心： 对自由的技术威胁》（威斯康星大学麦迪逊分校博士论文，2023 年），1。

[2] Bunn, "The Heart of a Machine： 对自由的技术威胁"。

[3] 感谢雅各布-哈利（Jacob Haley）和纳撒尼尔-威廉姆斯（Nathaniel Williams）的编辑见解--远胜于 ChatGPT 对我的帮助。