澳大利亚国防部数千次未经批准使用人工智能聊天机器人ChatGPT

本文概要:

1. 澳大利亚国防部工作人员在未经批准的情况下，使用人工智能聊天机器人 ChatGPT 数千次。

为了确保数据安全和隐私保护，澳大利亚国防部采取了一项临时措施，限制了 ChatGPT 所有者 OpenAI 对某些网络域的访问。

3. 缺乏政府范围的政策来管理在政府部门中使用生成式人工智能产品的安全问题。

站长之家 8月21日 消息:根据 Crikey 的信息自由请求文件显示，澳大利亚国防部工作人员在未经批准的情况下使用人工智能聊天机器人 ChatGPT 数千次。

根据相关文件的内容，我们可以得知，为了防止数据或隐私泄露，该国国防部已经采取措施限制了ChatGPT的所有者OpenAI对其网络域的访问。

在2022年12月1日至2023年6月30日这段时间内，澳大利亚国防部设备总共与OpenAI.com网站的5630个接口建立了连接。这些连接均通过在线网页界面实现，从而排除了通过第三方服务或OpenAI的智能手机应用程序建立的连接。

一封由该国国防部指定的决策者 David Evans 撰写并附加在一封信中的文件，为读者提供了有关国防部针对 ChatGPT 政策的重要补充信息。他在信中明确指出，国防部并未批准使用 OpenAI 的产品，同时已经对在国防设备上应用 “在线 AI 服务，如 ChatGPT” 采取了限制措施。

他强调，这一举措是为了防止机密或敏感信息意外泄露。国防部已确认收到Crikey的采访请求，但未回应关于在限制实施前哪些链接受到限制、何时采取的控制措施，以及是否列出了”合法业务或运营需求”以允许绕过限制进行访问的问题。

目前，澳大利亚联邦各部门尚无关于使用生成式人工智能产品（如 ChatGPT）的政府范围指导意见。虽然今年早些时候，数字转型局表示公共服务部门对这些服务的实验 “不被阻止”，但警告应对潜在风险进行全面评估。澳大利亚内政部曾试验使用 ChatGPT，但另一份信息自由请求显示，该部门没有记录其对 OpenAI 产品的输入。

澳大利亚新南威尔士州的绿党参议员兼数字权利发言人David Shoebridge指出，大量证据表明，在采取行动之前，国防部已经无法掌控局势。这一情况再次突显了我国在处理新兴技术安全问题方面亟需一个具备可信政策的政府。

Shoebridge 呼吁在将更多信息上传到这些服务之前，制定新的政策和监管来管理在政府中使用生成式人工智能的问题。他说:”国防部拥有大量的机密信息，然而在缺乏完善的安全控制的情况下，却使用存在明显隐私问题的平台，这是非常令人不安的。”