OpenAI 报告称，中国人恶意使用 ChatGPT 的情况日益增多

OpenAI 透露，其工具的秘密使用情况正在激增，尤其是与中国团体有关的团体出于恶意利用其 ChatGPT 平台的情况。

自 2022 年 11 月 ChatGPT 推出并立即获得成功以来，人们一直担心其潜在的后果，因为它能够生成类似人类的音频、文本、图像和视频。OpenAI定期发布有关其平台上任何恶意活动的报告，例如网站的虚假内容。

OpenAI 捣毁了 10 个滥用其工具的独立活动

这家总部位于旧金山的公司在周四发布的一份报告中透露，它最近捣毁了十起利用其人工智能工具的独立攻击活动。其中四起是由与中国有关联的团体策划的，而一些规模较小的计划则与其他国家有关。

根据 本·尼莫OpenAI 调查团队首席研究员表示，这些与中国有关的行动在多个在线场所部署了各种各样的策略。

他告诉记者：“我们正在观察一个不断扩大的工具包。”

“一些活动融合了影响力行动、社会工程和监视，涉及从 TikTok 和 X 到 Reddit 和 Facebook 等平台。”

尼莫。

其中一个关键的例子被称为“冷笑评论”使用 ChatGPT 发布了英语、中文和乌尔都语的简短帖子和评论。这些帖子和评论涵盖了诸如美国国际开发署解散等话题，对该决定的褒贬不一，以及对一款被描绘成攻击中国执政党的台湾战略电子游戏的批评。

根据OpenAI的报告，在大多数情况下，此次行动不仅发布了原创帖子，还发布了回复，使其看起来像是一场“真正的”辩论。这些团体还撰写了一篇长篇文章，声称公众对这款游戏的强烈抗议。

“冷笑评审”团队还使用 ChatGPT 起草内部文件和绩效评估，详细记录了活动执行的每个步骤。OpenAI 的分析师发现，实际的社交媒体行为与这些自我评估高度一致，凸显了人工智能如何简化一线影响力和后台管理。

报告还显示，另一个与中国有关联的网络专注于情报收集，伪装成记者和地缘政治评论员。他们利用聊天机器人创建X账户简介，翻译中英文通信，甚至还针对一位美国参议员发送了有关联邦提名的消息。

其他国家的团体也滥用了 OpenAI 的工具

除了中国业务外，报告还指出俄罗斯和伊朗参与者还试图利用 ChatGPT 来影响选举，这与人们对生成式人工智能在塑造公众舆论方面的作用的担忧相呼应。

在菲律宾，一家商业营销机构涉嫌参与垃圾邮件活动，同时还发现了一起与柬埔寨有关的招聘骗局。该公司还透露了另一项与朝鲜利益相关的就业计划。

所有这些威胁都与 2 月份的一份报告相吻合。OpenAI 在报告中发现了一项与中国相关的监控计划。据报道，该计划实时监控西方抗议活动，并向中国安全机构提供摘要，而 ChatGPT 则为监控软件提供了从代码调试到起草销售宣传等所有服务。

尼莫表示，尽管这些行动似乎使用了复杂的工具，但大多数行动都被发现并被阻止。

他指出：“先进的人工智能并不一定能带来更有效的结果。” 事实上，OpenAI 的定期威胁报告表明，虽然生成模型可以加速内容创作，但它们并不能保证真正的影响力或广泛的吸引力。

为了应对这些发现，OpenAI 持续完善其监控和执行机制。该公司禁止与检测到的操作相关的账户，并删除所有涉及创建恶意软件、自动发送政治信息或误导性内容的账户。

在最新一轮的行动中，OpenAI 删除了发布与中国有关的地缘政治争议的账户，包括对巴基斯坦活动人士的虚假指控以及对特朗普的评论。关税政策。

尽管 OpenAI 取得了成功，但该公司也承认生成式人工智能具有双刃剑性质，既是创新的工具，也是虚假信息的工具。

Cryptopolitan Academy：想在 2025 年实现财富增值吗？欢迎参加我们即将推出的网络课程，学习如何利用 DeFi 实现增值。保存您的位置