据外媒报道，犯罪分子通过一个变声软件，成功从阿联酋的一家银行骗取了数千万美元的资金，再次引发人们对这些人工智能软件的担忧。
报道中指出，犯罪分子在人工智能工具的帮助下，模拟了银行一名客户的声音，从而获得了银行员工的信任，让银行给其转账3500万美元（约合人民币2.25亿）。
根据法庭披露的文件显示，该事件发生在去年1月，当时阿联酋某家银行的分行经理接到了一个看似“正常”的电话。电话中，来电人声称自己是一家公司的董事。
巧合的是，银行经理此前刚好与这名董事交谈过，从电话中听出来电人的声音确实和现实中真实董事的声音一模一样。此外，该公司当时的确正在进行一项3500万美元的交易。
于是，银行经理对来电人的身份丝毫没有怀疑，并没有意思到他正面临一场骗局，便听取来电人的指示，向其指定账户转账3500万美元。
根据迪拜相关调查人员的说法，策划该骗局的人至少涉及17人，因为被骗取的资金被转移到分散在全球的多个银行账户。
世界知名的电脑安全软件公司ESET的网络安全专家杰克·摩尔（Jake Moore）表示，虽然音频和视频深度伪造技术是本世纪一种让人向往的技术。但与此同时，也有着巨大的潜在危险性，对数据、金钱和商业构成巨大威胁。
虽然开发者的本意是好的，但是一些恶意使用者通过这些技术来做一些违法的事情，也让这些非常成功的技术站在了风口浪尖上。
