在澳大利亚维多利亚州儿童保护机构近日被迫下达禁令，要求工作人员不得再使用生成式人工智能服务。这一决定是因为一名工作人员在使用 ChatGPT 撰写保护申请报告时，输入了大量个人信息，包括一名高风险儿童的姓名。这个事件引起了维多利亚州信息专员办公室（Ovic）的关注，他们在去年12月接到报告，随后对此展开了调查。
调查结果显示，这名员工提交的报告涉及一名年幼儿童，儿童的父母被控性犯罪，尽管这些指控并涉及到孩子本人。Ovic 在调查报告中指出，报告中多处用语显然是 ChatGPT 生成，且存在不符合儿童保护指南的语言和句子结构。例如，报告中将一名儿童的玩偶 —— 据称是父亲用于性目的的玩具，形容为父母 “支持儿童发展需求的年龄适宜具”，这大大淡化了儿童所面临的潜在。
Ovic 的报告还指出，输入个人信息到 ChatGPT 中属于对部门信息的未经授权披露。这位员工承认自己使用 ChatGPT 是为了节省时间并提高工作效率，但否认输入了个人信息调查还发现，这名员工可能在100个案件中使用了 ChatGPT，而在整个部门，从2023年7月到12月，几乎有900名员工访问了 ChatGPT 网站，占员工总数的近13%。
为此，Ovic 对部门发布了一系列指令，包括封锁多个生成式人工智能网站的 IP 和域名，ChatGPT、Meta AI、Gemini 和 Copilot 都在封锁范围之内，禁令将持续两年。部门方面表示接受调查结果，并将积极落实相关指令，且已不再雇佣该名员工。Ovic 对未来在儿童保护领域使用生成式人工智能持开放态度，但强调必须确保更高的安全标准。
划重点:
✅ 一名维州儿童保护工作人员在使用 ChatGPT 时输入个人信息，导致机构下令禁止使用生成式 AI。
🚫 调查发现，该工作人员的报告中存在多处不符合儿童保护标准的语言和不准确的信息。
🔒 Ovic 要求部门封锁多个 AI 网站，禁令将持续两年，确保儿童信息安全。