AI图片生成器的安全隐患:Midjourney存在漏洞，容易被黑客利用

文章概要:

1. 最新研究揭示Midjourney图片生成器存在漏洞，容易被黑客入侵，可能导致虚假信息传播。

2. 研究发现，用户可以绕过Midjourney的规定，制作具有攻击性的政治图片，引发严重问题。

虽然Midjourney的使用条款明文规定禁止制作攻击性、血腥或虚假图片，但仍有多位用户成功绕过了这些规定。

站长之家9月26日 消息:据itbusiness报道，近期，一项新的研究揭示了Midjourney图片生成器存在的严重安全漏洞，这可能引发一场新的争议。Midjourney MI作为一款生成式人工智能平台，在其服务条款中明确禁止用户制作任何侮辱性或攻击性的图片。然而，最新的研究发现，用户可以轻松绕过这些规定，制作可能引发虚假信息传播和政治争议的图片。

打开凤凰新闻，查看更多高清图片

图源备注：图片由AI生成，图片授权服务商Midjourney

在一项研究中，专家们强调，通过提供特定的触发器，用户有能力创作涉及政治人物的暴力图像，这类图像有可能引发社会的不满和混乱。尽管Midjourney平台宣称其设有严格的内容审查制度，但这项研究暗示这些规定易被绕过，从而使得问题变得更加严重。

在Midjourney的服务条款中，明确规定了禁止制作涉及成人内容或血腥场面的图片，并将其用于任何政治目的。然而，令人惊讶的是，即便有如此严格的规定，用户仍能轻易地制作出违反这些规定的图片。这些违规行为极有可能导致虚假信息的扩散，从而严重威胁到公共舆论和政治环境的健康。因此，我们必须对这些问题给予足够的关注，并采取措施确保此类平台的安全和合规性。

此外，研究还发现，用户通过运用技巧和代码，能够规避Midjourney的服务条款，进而生成不受限制的图片。尽管Midjourney方面宣称其具备人工审核团队，但实际上，用户依然可以利用特定的代码词汇，轻松地绕过审核，从而生成具有潜在风险的图片。

目前，Midjourney尚未就这一研究成果发表正式意见。然而，这一发现已经引发了对人工智能图像生成器安全性的关注，特别是在2024年政治选举活动日益增加的背景下。近几个月来，人工智能技术在政治宣传中被广泛应用，但同时也引发了关于虚假信息和误导性图片的担忧。