人工智能的泄密风险探讨——以ChatGPT为例

点击蓝字关注我们

近期，美国OpenAI公司旗下的人工智能ChatGPT一跃成为风靡全球的现象级应用。有不少“IP人”跃跃欲试，开始探索人工智能在知识产权领域的应用可能性。从目前已知的信息来看，AI可以帮助知识产权从业者撰写法律文件，进行检索和文件翻译等工作，似乎是提高工作效果的得力助手。然而，业界也有对于ChatGPT是否会泄密的担忧。许多互联网大厂向自己的员工发出了相关警告，据美国商业媒体Business Insider报道，微软首席技术官(CTO)办公室的一名高级工程师称“请不要将敏感数据发送给OpenAI终端，因为他们可能会将其用于训练未来的模型。”同样地，亚马逊的公司律师警告员工不要与ChatGPT分享“任何亚马逊的机密信息(包括你正在编写的亚马逊代码)”。“这很重要，因为你的输入信息可能会被用作ChatGPT进一步迭代的训练数据，我们不希望它的输出包含或类似于我们的机密信息(我已经看到它的输出与现有材料非常匹配的例子)。”该律师写道。

ChatGPT是美国OpenAI公司开发的离线语言模型，它没有能力浏览互联网或访问实时信息生成模型，无法访问最新的事件进展，目前版本的ChatGPT在进行模型训练时，数据只更新到2021年。但是，OpenAI有独立的数据库，用于储存与用户的对话内容，ChatGPT在与用户对话的过程中可以调用库中的内容。因此，ChatGPT并不是完全意义上的“离线”，只是与用户的对话数据不会立即被用来对其进行训练。

以专利为例，根据专利法的规定，现有技术既可用于评价专利的新颖性或创造性还可能在专利侵权诉讼中用作不侵权抗辩。对于现有技术的定义，审查指南中指出，现有技术应当是在申请日以前公众能够得知的技术内容。判断现有技术的关键并不是该技术内容是否已经被公众所知，而是该技术内容是否可以被公众所获得。因此是否“处于能够为公众获得的状态”是判断专利泄密风险的关键。

根据专利法中的定义，笔者认为ChatGPt的泄密风险主要有以下三点——直接泄密（将存储到库中的对话内容直接透露给第三方或公众）、间接泄密（将用作ChatGPT进一步迭代的训练数据，在未来的版本作为输出内容）以及黑客攻击。

关于是否会直接泄密，ChatGPT承认与用户对话的数据可能存储在OpenAI的数据中心或使用的云服务提供商的数据中心中，以便实现最佳的性能和可用性，但它同时强调任何存储的数据都受到严格的访问控制和保护措施的保护，以确保用户的数据安全。

由此可见，根据OpenAI公司自己的说法，ChatGPT与用户之间有严格的隐私和数据保密协议，以确保用户的信息受到适当的保护。

对于间接泄密，ChatGPT的回答显得含糊了许多。它承认储存在OpenAI数据库中的对话内容可能会在未来被用作训练数据，即作为知识性的内容成为ChatGPT的数据储备。但是，它又强调会尊重用户的隐私。

一旦将完整的技术方案作为训练数据来进行模型的迭代，就意味着有将其作为输出内容透露给其他用户的风险，这可能会被认为是“公众可获得的状态”。而且，ChatGPT作为AI，其本身是否可以成为专利的“发明人”目前也存在争议。在有些国家比如澳大利亚，AI可以作为专利的发明人。那么，向ChatGPT透露技术方案本身也可能会被认为是向“公众”公开。笔者也就如何判断用户隐私的问题询问了ChatGPT，它的回答让人不得不怀疑，在信息保护方面，ChatGPT可能存在泄密的风险。