为应对选举期间的虚假信息传播担忧，Midjourney和其他AI生成工具采取了严格的措施限制特定内容的生成。Midjourney，一款AI图像生成器，因制作关于唐纳德·特朗普被捕的虚假图像而知名，最近禁止了包含前总统特朗普和现任总统乔·拜登名字的图像提示。美联社的测试显示，尝试生成“特朗普和拜登在海滩上握手”的图像时，系统会显示“检测到禁止的提示”警告，进一步尝试会触发“触发滥用警报”的提示。

Midjourney首席执行官大卫·霍尔茨在3月13日的新闻发布会上表示：“我对政治言论并不真正感兴趣。这不是Midjourney的目的。我也不想将所有时间都用于监管政治言论。因此，我们将对此采取一些措施。”霍尔茨还提到，他预见到2028年AI技术将更加令人担忧，届时恶意行为者能够比现在更精细地调整深度伪造和聊天机器人，他补充说：“这种监管工作相当困难。”

与此同时，其他生成性AI工具也发布了类似的提示禁令，以遏制令人担忧的图像传播。去年，微软的Bing图像生成器试图禁止包含“双子塔”短语的提示，以减少传播以动画角色描绘911袭击的模因——当然，模因制作者找到了绕过这些限制的方法。

紧随其后，OpenAI的先进图像生成器DALL-E 3，采取了更加严格的使用政策，加入了一个“多层次安全系统”，限制了DALL-E 3生成暴力、仇恨或成人内容的能力。Mashable的Chance Townsend报道，OpenAI在1月份针对选举虚假信息发布了具体指导方针，指出DALL-E 3可以拒绝“生成包括候选人在内的真实人物图像”的请求。

此外，OpenAI在2月份宣布，它已经检测并终止了使用其生成AI技术的外国国家附属恶意行为者的账户。这些行动体现了AI社区对于避免技术被滥用以传播虚假信息和影响选民的严肃态度。