据韩国网络安全研究人员称，一个疑似由朝鲜政府支持的黑客组织利用ChatGPT生成了一份伪造的军事身份证件，以此对韩国境内目标实施攻击。

OpenAI旗下人工智能ChatGPT

Genians公司总监文钟贤指出，该趋势表明攻击者能在黑客过程中利用新兴人工智能技术，包括攻击场景规划、恶意软件开发、工具构建以及冒充招聘人员。

此次网络犯罪浪潮的钓鱼攻击目标包括关注朝鲜问题的韩国记者、研究人员及人权活动家。攻击邮件还伪造了韩国军方邮箱地址，使用以.mli.kr 结尾的域名。

目前尚不清楚确切受害人数。

在调查伪造身份证件的过程中，Genians研究人员尝试使用ChatGPT进行实验。由于在韩国复制政府身份证件属于违法行为，当被要求生成身份证时，ChatGPT一开始给出了拒绝响应。但通过修改提示语，他们成功绕过了该限制。

美国官员指控朝鲜长期利用网络攻击、加密货币盗窃及IT承包商为平壤政府收集情报。据美国政府称，这些手段还被用于筹集资金，以帮助该政权规避国际制裁并发展核武器计划。