半年来，最新生成式人工智能技术向我们演示了一种低成本方法、零门槛使用AI进行文本内容的创造、画面乃至整幅画面。

  虽正经商用之路，仍在艰难摸索中，但诈骗界却公布了这一“重大利好”消息。最近，一些公司和机构开始使用一种名为“反欺诈技术”的工具来帮他们识别欺诈行为，并提供给客户一个明确的、有价值的信息。由于运用了这一切,“欺骗”的事情就变的更加容易。

  界面新闻整合当前网络中有关AI在诈骗界中的使用情况，从中找到如下一些重要线索:

  ChatGPT已具备了在短期内产生合乎人类常识与逻辑文本内容的充分能力。它可以通过对用户的语音，图像做多元化的分析来自动生成一个完整的文档内容，并提供给客户浏览和阅读。这一点已被诈骗分子用于钓鱼邮件的制作。

  通过检测可发现，由于OpenAI设置了道德性的防火墙，所以，直接请求ChatGPT制作钓鱼邮件的请求将被驳回，但若设定为虚构的情景,ChatGPT将提供对应答案。

  目前多地公安局已经下发了相关消息进行提醒，境外有利用ChatGPT建立一个完整“钓鱼邮件”感染链的，而与过去广撒网式网络钓鱼不一样，是由提问者诱发出来的，可产生“鱼叉式”网络钓鱼邮件，以特定个人或机构为对象。

  这类钓鱼邮件更具欺骗性，迷惑性，邮件接收方会更易被骗，一旦接收方单击此邮件，系统可能受到恶意代码的传染而中毒。

  网络安全公司奇安信在接受界面新闻记者采访时说，撰写优秀的网络钓鱼电子邮件在ChatGPT的帮助下，既是艺术，又是科学,写钓鱼邮件将更简单。总的说来，在ChatGPT的帮助下创建了钓鱼邮件，拥有高欺骗性和高回报比、技术门槛低等三个主要特点。

  第一,ChatGPT类型的钓鱼邮件更具欺骗性与迷惑性。这类文件一般都是以“让人感觉非常不好”为目的，但在实际生活中，我们也经常会碰到这样一类邮件，它们往往并不是为了欺骗用户而设计的，而是出于一些恶意行为。例如“使邮件看上去很紧急”、“收件人点击链接的可能性很高的邮件”、“请求汇款的社工邮件”等等。

  二是ChatGPT产生网络诱饵明显提高攻击者回报比。与一般的网络钓鱼所需发出的几百万个诱饵不同，使用ChatGPT可制作更有明确的目的性、更可定制的诱饵，这样才可以达到事半功倍之效。

  并且,ChatGPT使用的低门槛让普通黑客也能制造出武器化的钓鱼邮件。这些“钓鱼”邮件在被攻击后会自动地发送出去并进行追踪和处理。网络安全公司的Darktrace曾经指出，人只需暗示到位,ChatGPT可以很容易地制作几十封有明确的目的性诈骗电子邮件。

  也许听上去有点可笑，但是必须要相信和警惕现在网恋对象图片也有一定的可能被AI凭空捏造。

  早在ChatGPT上大火的AI绘图应用，可以使人只要键入少量关键词便可获得一幅好画。在早期的时候，这些技术只能被用来绘制简单的图片。现在这种模型已演变为能够产生与真人照片相似的照片。

  扬子晚报近日报道，网上流传着一条“苏州金鸡湖有游艇女仆party”新闻，网传宣传海报展示，出席活动费用为3000元位，将有一对一女仆陪身等服务，还附有性感的女仆图片。

  报道称，此次所谓“女仆party”有很大的可能性成为国内首例AI绘图诈骗事件。事件所给女仆照片均为AI模拟真人照片绘制，有的女仆的图片手指局部有不正常的地方，由于手指部分的绘画算法很复杂，一些AI模型的绘制时常会出现一些问题，与AI绘画特点一致。

  苏州警方1月20日称，他们已注意到网传“金鸡湖女仆游艇party”一事，并对消息发布者进行了约谈。

  类似AI作图诈骗，国外早有报道。据英国广播公司消息，土耳其地震中，一些Tiktok网友用AI合成一张假照片，将孩子们受灾情况公布在网上，借此引诱好人打赏“捐助”,从而进行诈骗。

  根据新华视点2022年2月份的消息，一陈先生向浙江省温州市公安局瓯海分局仙岩派出所反映情况，他本人被“好友”诈骗近5万元。随后，民警赶到现场时，陈先生已经死亡，而“好友”却依然存在并接着使用该账号。警方查实，诈骗分子使用了陈先生朋友“阿诚”已经在社交平台上公布过的一段视频，截取他们的面部视频画面，然后通过“AI换脸”技术进行合成，造成陈先生和“好友”视频聊天假象，骗取他的信任，由此进行诈骗。

  温州公安还发布信息称，拱宸桥派出所2021年接警后，被害人小陈说，自己和女网友进行视频聊天时，遭到了对方的勒索。小陈表示，自己与女网友是朋友关系，自己并没有向她索要钱财，也不希望对方以自己为由打她一顿。警方侦查后发现对方使用的是AI换脸技术，在不雅视频里合成小陈的脸，以此向他们进行敲诈。

  “深度伪造”是以深度学习技术为基础，迅速制造出“以假乱真”级数字内容而命名。它通过机器视觉识别人体图像中特定区域或位置的人脸信息，进而生成具有一定可信度和可辨识度的数字图像数据集。深度学习特别是神经网络算法模型的建立，数据处理天赋禀异，可从不同的视角进行研究、人在不同光源中面部特征，对人脸范围和五官进行自动定位，以达到修改面部，转移面部的目的。

  该技术从一开始就应运而生，已经有不少犯罪分子利用它行骗。这些人利用人类面部特征来识别身份，并将其作为支付手段，然后利用互联网进行诈骗和谋害活动。马斯克，扎克伯格，特朗普等明星的面孔曾经被不法分子利用AI换脸技术进行恶搞或者欺诈。如今，人工智能技术在商业领域的应用愈来愈普遍。《华尔街日报》报道称,2019年3月，犯罪分子利用深度伪造技术，模拟出德国一家能源公司CEO发出的呼声，成功向公司发英国分公司骗取22万欧元。这些诈骗分子通过伪造用户的面部特征和表情来欺骗他人。同样，骗子们经营的“假靳东”抖音账号也利用明星人设诈骗中老年妇女信任和钱财。

  国内AI公司瑞莱智慧的副总裁唐家渝曾经在接受界面新闻采访时说，现在行业内出现了许多成熟的生成类软件工具。比如，有的人利用第三方平台生成人脸图像，然后在社会化媒体上发布。并且现在很多代表性的生成方法已经被开源，技术向开放，轻量化方向发展，还有黑产分子卖AI换脸的软件和教程。在未来，这一些都会消失，取而代之的是更加智能化的生成手段——通过机器学习算法，让用户能自动生成人脸图像并进行面部识别，最终形成一个人的身份证号或二维码。一般人都能够迅速入门的，一般会产生一个动态换脸视频进行身份核验，十多分钟即可完成。

  伴随着人工智能技术多维度的发展，诈骗分子对文本，图片，视频等进行伪装已经具备了有力手段。

  McAfee的报告，一般人在下面的情况下，也许就知道是上当了：当认识到彼此无法线下相遇时，也不可能在视频聊天的时候进行；在遇到陌生人时，不能与对方进行面对面交谈。发现网上有骗子图片，就拍；在网络上找到了对方的手机号后。当另一方无法在交谈中给出详细个人隐私信息；对方想在电话里和你说几句话时。对方不愿意来电的时候；你会被骗吗？当彼此交谈前后不一致。这些都是诈骗分子常用的手段，但他们也有自己的绝招。而且最新AI技术很明显已可以很容易地使诈骗分子踩过这几条“红线”。

  就防范AI造成的危害而言，中国传媒大学政法学院法律系副主任郑宁建议，一、互相提示、联合防范。对于一些人来说，被骗后，往往会出现各种心理问题和行为偏差。亲友之间应相互暗示、宣传，由于中老年人上当受骗的比较多，青年人应及时对家庭中的老人进行宣传和预防，并加以提醒、劝诫老人接手机，收短信，只要你不知道、陌生的人或事，都不理会，免得受诱上当。

  “其次是拒绝诱惑，民众应当避免占便宜心理，警惕陌生人提供的好处；再次是谨慎处理金钱交易，无法确认对方身份时，拒绝交易；最后是保护网络账号及密码、手机号、身份证、家庭住址、亲属关系等个人敏感信息，不随意提供上述敏感信息。”郑宁说道。