AI会杀死人类吗？纽约大学Gary Marcus：这不是这两项需要考虑的问题

2024-01-23 来源 : 社会

的转化，只在该课题内有一点注意时，它们就不会构成什么大缺陷。但现在，它们广为人知，并引起了一些坏人的兴趣，它们日益多地被等同于与本体全球（有数进化）的关系，它们可以转化成更是大的冲击。

虽然人工智慧社区经常注目长期危险性，但我不一定是唯一害怕严重影响的、短期制约的人。欧洲刑警组织（Europol）发布了一份调查报告，考虑了一些暴力犯罪的某种程度，发人省醒。

他们强调了 LLMs 降解误判信息的能够。例如，互联钓鱼和在线欺诈可以更是快、更是真实地转化成，而且数量明显拓展；LLMs 可以 “被滥用权力......误导潜在的受害者深信一些暴力嫌疑人”。

除了上述暴力犯罪活动以外，ChatGPT 的能够也适合宣传和盗用信息课题的一些潜在滥用权力情形。

或许显然死亡；的文化显然被终究冲击。比如说进化就不会真的 “从大概变为”，但坏事确实不会更为不一定糟糕。

这一切的某种程度有多大？我们不能确切的答案。我说的 1% 也只是一个马克思主义实验，但它不是 0。

“这并非不可想象”，Hinton 是有一点注意的，我忽视它既适用于 Eliezer Yudkowsky 等人所害怕的一些长期上述情况，也适用于 Europol 和我所害怕的一些短期上述情况。

真正的缺陷是操纵。正如 Hinton 害怕的那样，如果我们失去对可以自我改良的电脑的操纵不会引发什么。我不根本我们什么时候不会有这样的电脑，但我根本我们对现在的人工智慧不能足够的操纵，尤其是现在人们可以把它们与普通人全球的软件包 API 连在一起。

我们只能暂停害怕电脑人接管全球，而是更是多地考虑那些坏人显然不会运用 LLMs 好好什么，以及如果有的话，我们可以好好什么来阻挠他们。

然而，我们也只能将 LLMs 视作将会人机的一点 “星星之火”，并扪心自问 “我们根本要对将会的核心技术好好些什么，这些核心技术很显然更是加难以操纵”。

Hinton 在不能接受 CBS News 采访时说，“我忽视人们现在害怕这些缺陷是不一定合理的，尽管它就不会在将会一两年内引发”，我各方对一致。

这不是一个非此即彼的上述情况；现在的核心技术即使如此带来了巨大的危险性，我们不能不能接受打算不足。随着将会核心技术的转变，坏事很显然更为更是糟。评论人们注目 “误判的危险性” 对任何人都不能试图；即使如此有足够多的危险性了。

所有人都要行动起来。

中止 6 个年底？所谓击开始

在 Marcus 与戴维等数万人联名希望政府至少中止大建模分析 6 个年底后，业内有一致，不大谓对。其中，都只就有数人工智慧知名史家吴恩达。

吴恩达忽视，中止分析比 GPT-4 更是强悍的人工智慧建模是 “一个可怕的期望”。

“我看到 GPT-4 在初等教育、医疗、食品等全面性有许多新的应当用，这将试图或许。改良 GPT-4 将不大试图。我们只能平衡人工智慧悄悄创造的巨大经济效益与普通人的危险性。”

同时，吴恩达声称，除非政府介入，否则不能普通人的步骤来制订中止并阻挠所有的团队拓展 LLMs 的数量。让政府中止他们不了解的新兴核心技术是所谓竞争者的，这不会立有一个可怕的先例，是可怕的新颖政策。

另以外，坚信的人工智慧很重要，人工智慧也有危险性。媒体普遍忽视，人工智慧Corporation悄悄疯狂地降解不安全及的代码，这不是似乎。绝大多数（真是的是，不是所有）人工智慧的团队都认真对待坚信的人工智慧和安全及。

“6 个年底的中止期不一定是一个可视的建议。为了促进人工智慧的安全及，环绕透明度和监管的条文将更是加可视，并转化成更是大的制约。在推动核心技术转变的同时，让我们也对安全及展开更是多的投资，而不是扼杀进步。”

在 Hacker News 上看到这样这段话，“你无法阻挠此类分析的引发。你只能阻挠有经济效益观的人好好那种分析。我宁愿让有经济效益观的人继续去好好这些分析。”

不能不能接受，你怎么看？

本文为编译发表文章，内容只能推选原作者观点。

。