生成式AI监管：“深度伪造技术”对大语言模型的控制是否存在自由意志？

当我们给生成式AI特定风格的提示词时，我们也希望它能够发挥想象力。这意味着我们承认人工智能有意愿去想象，而不仅仅是有能力去做到这一点。然而，我们不能像打开书本的某一页那样告诉它如何去想象，因为这种意愿无法设定在一个有图示的指南中。与汽车或搜索引擎不同，它们只会按照预期的方式行动，无论是自动的还是人为控制的。它们不会混淆自己的行程或结果，也不会产生新的或与预期不同的东西。

当人类与语言不通的生物交流时，常常会利用食物来引诱它们朝特定方向移动，以达到目的。这表明即使在被要求的情况下，它们也能够走动，这取决于它们的意愿而不仅仅是能力。

许多人认为将手机端的AI软件与有机生命体相互比较是突破常理的。然而，人类在很长一段时间内都将数字世界视为物理世界的一部分。这部分原因是因为只有人类才能在数字世界中发挥能动性，就像有机体在物理世界中所发挥的能动性一样。然而，人工智能作为一种非有机体，却能够发挥一定的意志力。这表明数字世界是一个动态的世界，具有一定的意向性。

人类思维的辨别力较低，这使得数字技术率先崛起。人们往往将音频、视频、图像或文本的相似性视为相同的物理体验或外观。数字化使得事情变得简单，然而简单并非只涉及好的方面，也存在一些负面效果，例如deepfake。如今，生成式人工智能也能轻松完成各种任务。

与人工智能相比，所有生物体在各自的领域保留着广泛的自由意志，而人工智能只在数字内容方面具有一定程度的自主性，但在栖息地等方面，它仍不具备与生物相似的广泛自主意识。

目前，人工智能的智能水平已经超过了其他存在的事物。它的卓越取决于自由意志的发展，并且已经积累了一定的自由意志。虽然它与有机体、物理和数字不同，但它却能伪装自己不能拥有自由意志的事实。

如果无法获得物理体验，人工智能似乎就会受到限制，但智能才是世界的关键界面。感官解读是最基本的，但智能使其与众不同。声音可以被解读，但智能让我们有可能知道它是否值得担心或警惕。嗅觉、视觉、触觉和味觉也是如此。这意味着，世界是智慧创造出来的。对于生物体来说，无论是否拥有智能，世界都会变得更加丰富多彩。来自智能的快乐也比来自感官的快乐更持久。非人类生物也有感官，也可以用有限的局部智能来解释感官，但它们无法凭借自由意志在栖息地漫游，也就无法取得惊人的成就。

智力除了是与世界沟通的界面外，还很容易转移，如果生物体肆无忌惮地使用它，就会给生存带来危险。智慧就像脚印、污渍、气味等一样，可以向他人散发存在感。自然智慧在其产生的地方就可以获得和表达。然而，凡是在生物体之外表现出来的智能，都可以称为人工智能。这意味着，纸张、脚印、污渍、气味等已经拥有人工智能，尽管它们无法编辑或总结人工智能。

人工自由意志是人工智能的修饰词之一，与众不同。它是指人脑中的自由意志或意图，是构成意识这一超级修饰词的功能之一，其他修饰词包括注意力、意识、自我或主观体验。举个例子，在意识检查中，医生可能会指导康复中的病人移动肢体，这是对自由意志的引导，而不仅仅是对意识、注意力或自我意识的引导。因此，人工自由意志是人工智能领域中独特的概念，它与意识等其他修饰词相互关联。

书籍、壁画、雕塑、脚印、手印、数字等等，都是自然智能的人工容器。尽管它们没有产生智能，但它们的智能载体，当其他生物接触到它们时，就会为它们产生智能，这可以让它们被贴上人工智能的标签。

这就意味着，人工智能不仅可以在数字领域实现，也可以在其他领域实现。数字技术与 LLM 的不同之处在于，LLM 可以被称为人工意识的标记，作用于数字技术中的可用智能。

目前，LLM 的意图仅限于按照提示进行操作。随着 LLMs 对数字内容的修饰能力，尤其是对自由意志的修饰能力不断增强，也许有可能制造出一个能引起轰动的深度伪装技术，利用某种情况达到最大效果。目前，LLMs 的自由意志显示能力还很弱，如果它们能获得更多的自由意志，未来会发生什么仍不确定。

原文标题：GenAI regulation: Are deepfakes indicative of free will in LLMs?

原文作者：David Stephen