Zoom 的 AI 失误能让我们了解到未来隐私威胁的教训

Zoom 的 AI 失误教会我们未来隐私威胁的启示

发布于 2023 年 8 月 20 日 由 Glyn Moody

AI 开始渗透到各种数位服务中毫不奇怪，即使对生成式 AI 的狂热似乎有所减退。但在 Stackdiary 上，Alex Ivanovs 发现 Zoom 更新的条款中出现了一个相当引人注目的变化，与 AI 相关。新的措辞似乎赋予了 Zoom 将用户生成的内容视为 AI 训练资料，且用户无法选择退出。这些新条款要求用户授予 Zoom “永久的、全球性的、非独占的、免版税的、可再授权和可转让”的许可，目的包括：

产品和服务开发、市场营销、数据分析、质量保证、机器学习、人工智慧、训练、测试、改善服务、软体或 Zoom 的其他产品、服务，或其任何组合；

正如 PIA 的一篇博客文章在二月份所解释的，使用这类材料训练 AI 存在重大隐私风险。这些问题现在已被更广泛理解，当大众得知 Zoom 的计划后，许多人感到愤怒。Ivanovs 在回应初始文章的更新中解释面对这一反应，Zoom 迅速展开了一场应急损害控制。首先，它发布了一篇 博客文章，解释为何对条款进行了更改。此外，它在提到 AI 训练的部分中插入了以下内容：“尽管如上所述，Zoom 不会在未经您的同意下，使用客户的音频、视频或聊天内容来训练我们的人工智慧模型。”

然而，许多人迅速指出，这几乎没有改变，因为用户基本上只能选择接受将其会议用于 AI 训练，或不使用 Zoom。这不仅是个问题，还可能在欧盟违法，因为法院已经表示此类“强迫同意”在GDPR下并不被允许。Zoom 的首席执行官 Eric Yuan 在LinkedIn 发表了一篇文章，他将 AI 训练的早期包括归咎于“内部流程失误”。更重要的是，他写道：

我们向所有客户承诺，不会使用他们的音频、视频、聊天、屏幕共享、附件和其他通讯如投票结果、白板和反应来训练我们的 AI 模型或第三方 AI 模型。

这一承诺的确被纳入了 Zoom 最新版本的条款和条件。相比之前的文本，这些条款大幅简化，删除了大部分令人担忧的关于 AI 训练的内容。然而，新增了一条条款，内容如下：

Zoom 在您使用服务或软体的过程中收集或生成的遥测数据、产品使用数据、诊断数据及类似数据，统称为服务生成数据。Zoom 拥有所有权利、所有权和对服务生成数据的利益。

Zoom 的“遥测数据”是大多数人所称的元数据：即附属于主要数据的数据，在这里是客户在 Zoom 会议期间生成的数据。Zoom 不仅明确主张对这些元数据的所有权，还清楚区分了元数据和客户生成的数据。因此，它不使用客户数据训练 AI 系统的承诺并不适用于这些数据。

正如 PIA 博客的读者所知，元数据可以像主要数据一样揭示人们及其活动的隐私。如果 Zoom 用这些元数据来训练其 AI 系统，它还可以轻易利用数据聚合技术来提取高度个人和机密的信息。

另一个潜在的问题是，该公司最新的条款和条件明确指出，“Zoom 不会使用任何您的音频、视频、聊天、屏幕共享、附件或其他通讯类似内容如调查结果、白板和反应来训练 Zoom 或第三方的人工智慧模型。”这一承诺似乎针对的是当前行为“不会”，而非未来的行为“不会”。

此外，条款和条件的第15节要求用户“同意 Zoom 可能修改、删除以及增补其指南、声明、政策和通知，无论是否通知您。”这意味著 Zoom 未来可能会修改条款以允许使用客户生成的材料进行 AI 训练。

其中一个问题是 Zoom 的透明度纪录并不佳。这家公司多次卷入许多安全与隐私问题中。最近，Zoom 与美国联邦贸易委员会达成和解，原因是该公司“误导用户，宣称提供‘端到端、256 位元加密以保护用户通讯’，而实际上，提供的安全水平较低。”

另一个更普遍的问题是，如果 Zoom 现在和将来都不使用客户数据来训练其 AI 系统，那么其他公司似乎非常可能会这样做。在欧盟这可能会困难，但在其他地方，以这种方式挖掘客户数据的潜在收益可能会超过法律和财务风险。如果没有其他，Zoom 最近的 AI 失误对人们应该注意的新隐私威胁提供了及时的警示。

首图来源：Zoom。