ChatGPT 一岁了：AI 对隐私的新一波攻击，以及我们该怎么做

ChatGPT 一岁了：人工智慧对隐私的下一次攻击，以及该如何应对

发表于 2023年12月8日，作者 Glyn Moody

尽管难以置信，但距离 ChatGPT 的问世仅已一年，便点燃了当前对人工智慧与大型语言模型的狂热追捧。正如《纽约时报》的一篇文章所明确指出，自那以来的 快速发展 是由担心落后的公司推动的，它们急于开发下一件大事。许多产品和服务被快速推出，通常是在尚未完善时，并且对其可能产生的影响并没有充分理解。

如我们所报道，新一波人工智慧技术对隐私造成了严重的负面影响。这些包括：

该领域技术进步的持续快速流动让我们难以退一步看清全貌。一位杰出的评论员布鲁斯施奈尔Bruce Schneier则做到了这一点。他是一位受人尊敬的安全专家，常在其书籍及博客 Schneier on Security 中撰写与隐私相关的问题。最近，他重新发布了一篇关于人工智慧的发人深省的文章，此文之前曾在哈佛肯尼迪政府学院贝尔法中心网站上发表。

施奈尔首先重申了本博客上多篇文章中的观点，即互联网使得大规模监控成为可能，跟踪我们在线的每一个活动。正如他在几周前另一篇博文中所写，“监控是互联网的商业模式阿尔戈尔最近称之为‘跟踪经济’。”这已被广泛接受，但施奈尔指出，人工智慧的新能力使得这一情况变得更糟，将监控从大众监控转向大众间谍行为。

人工智慧能够进行智能间谍活动而不仅仅是简单监控的关键能力是总结功能。正如 ChatGPT 和类似服务所展示的那样，它们在总结文档、描述图像、甚至转录和总结视频方面已经相当出色。它们还可以利用其总结能力对混合数据进行分类、组织和搜索，呈现出易于理解的报告。例如，您可以向大型语言模型提供一个庞大的数据集并指示：

告诉我过去一个月中谁讨论过特定主题，讨论是如何演变的。某人 A 做了某件事；检查是否有人告诉他们这样做。找出所有正在谋划犯罪、传播谣言或计划参加政治抗议的人。

还有更多内容。要揭示组织结构，可以寻找给一组人相似指示的人，然后所有接受这些指示的人。要找出人们的知己，可以看他们告诉谁秘密。您可以详细追踪友谊和联盟的形成和解体。简而言之，您可以了解每个人谈论的所有内容。

施奈尔指出，人工智慧的间谍活动并不仅限于在线对话。到处存在的摄像头和麦克风将提供更多原始数据。到现在为止，分析这些数据的过程一直很缓慢。很快人工智慧将能够提取大量多媒体文件，并以超越当前能力的规划和速度进行分析。

随着新能力的出现，破坏隐私的新方式也随之而来。政府将利用这种间谍行为来促进社会控制。正如 爱德华斯诺登 十多年前揭示的那样，政府已经在使用大规模监控。大规模间谍对他们将更加吸引，更加危险。正如公司采用监控广告模式一样，他们也会乐于接受人工智慧间谍的新可能性：

企业将对个人进行监视。大规模监控开启了个性化广告的时代；大规模间谍将使这一行业更具动力。关于人们在谈论什么、他们的情绪、他们的秘密这对于寻找市场竞争优势的营销人员来说，简直是最佳诱饵。那些让我们处于持续监控中的科技垄断公司将无法抵挡收集和利用所有这些数据的诱惑。

这是一个黯淡的前景。施奈尔总结道：“我们可以禁止大规模间谍行为。我们可以通过强有力的数据隐私法规。然而，我们尚未采取任何措施来限制大规模监视。间谍行为为什么会有所不同呢？”公平地说，欧盟的GDPR至少试图处理大规模监控的问题，正如本博客的多篇文章所描述的那样。一些国家已经试图利用GDPR来应对人工智慧带来的新隐私问题。欧盟也在最终确定一项 人工智慧法案，旨在直接规范这一新技术。但《纽约时报》的另一篇文章指出，变化的速度显然太快，法律难以跟上人工智慧的发展。施奈尔本人提出了一个替代方案，他在一篇关于 人工智慧与信任 的冗长而有趣的文章中进行了说明。他表示我们需要的是“公共AI模型”，这些系统由学术界、非营利组织或政府构建，可以由个人拥有和运行：

公共模型是由公众为公众构建的模型。它需要政治问责，而不只是市场问责。这意味着透明和开放，配合对公共需求的响应。它还应该是任何人都可以在其基础上构建的。这意味着普遍获取的可能性，以及为人工智慧创新提供自由市场的基础。这将对抗企业拥有的人工智慧。

这无疑是一个值得探索的想法。毕竟， stakes 风险极其高：如果今天的大规模监视演变为明天以人工智慧为基础的大规模间谍，隐私将成为更为 endangered 的权利。

配图来自 OpenAI。