文章详细介绍了OpenAI发布的最新威胁情报报告，揭露了不法分子如何利用ChatGPT进行诈骗活动，包括现代化的“杀猪盘”式恋爱骗局和假冒律师事务所等非法行为。报告特别指出，诈骗者通过ChatGPT生成虚假的女性照片、logo和税务建议，甚至自称为“诈骗者”以获取财务建议。这些骗局主要针对印度尼西亚男性，通过AI聊天机器人和Telegram平台诱导受害者进行大额转账。此外，OpenAI还封禁了伪装成律师事务所和执法机构的账户，这些账户生成了虚假的律师协会会员卡进行诈骗。
2 月 25 日消息，当地时间周三上午，OpenAI 发布了一份最新的威胁情报报告，详细披露了不法分子如何利用 ChatGPT 实施诈骗等一系列恶意活动，例如现代化的“杀猪盘”式恋爱骗局。
▲ OpenAI 表示，这是与恋爱骗局有关的某人使用 ChatGPT 创建的徽标 OpenAI 首先给出了一张截图，揭示了一场据称源自柬埔寨的“浪漫诈骗”活动。
据介绍，该诈骗群体曾要求 ChatGPT 为虚假的“高端交友服务”创建 logo、生成虚假女性照片，并提供税务建议。最离谱的是，这部分不法分子在寻求财务建议时自称为“scammer（诈骗者）”。
OpenAI 认为，该骗局主要面向“关注奢华生活方式”（IT之家注：可能是指拜金）的印度尼西亚男性，而且“每月可能欺骗数百名受害者”。
据称，该骗局主要行骗方式是让用户从一群虚构的女性和关系类型列表中进行选择，但实际上都是一些冒充“女性调情接待员”的 AI 聊天机器人，并在初步取得对方信任后将其引导至 Telegram 平台。
在 Telegram 上，接着会有一批诈骗人员结合 ChatGPT 及 API 工具，通过“浪漫并带有性暗示的语言”诱导其完成一系列“任务”或“使命”，这些任务通常“需要通过银行转账或数字支付钱包进行金额越来越大的付款”。
▲ 这是一张伪造的纽约州律师协会会员卡的截图，OpenAI 声称这是由其模型生成的。 除恋爱诈骗外，OpenAI 还封禁了一组伪装成律师事务所、个人律师及美国执法机构的 ChatGPT 账户。相关诈骗者曾要求 ChatGPT 生成虚假的纽约州律师协会会员卡，并通过社交媒体推广进行诈骗。
相关阅读：
- 《OpenAI 遭起诉：ChatGPT 称用户为“天选之子”，诱导其陷入精神错乱》