科金社2025年07月24日 07:05消息，OpenAI CEO 警告金融行业将面临重大AI欺诈危机，引发广泛关注与担忧。
7月23日消息，据美联社报道，OpenAI首席执行官奥尔特曼警告金融行业，人工智能工具已能够模仿个人声音，从而绕过安全验证并转移资金，这可能引发一场“重大欺诈危机”。 随着人工智能技术的快速发展，其在提升效率和便利性的同时，也带来了前所未有的安全挑战。声音伪造等技术的滥用，不仅威胁到个人财产安全，也可能对整个金融系统的稳定性构成风险。相关机构和企业必须加快应对措施，加强技术防范与监管力度，以防止类似事件大规模发生。
奥尔特曼在周二于华盛顿举行的美联储会议上发言时表示：“让我感到惊讶的是，竟然还有部分金融机构使用声纹作为身份验证方式。这实在难以置信，人工智能技术已经彻底突破了这一安全防线。目前大多数身份验证手段，除了密码，都已经无法抵御AI的攻击。”
从报道中获悉，声纹认证在十多年前开始成为富裕银行客户的身份验证手段，客户通常需要在电话中说出一个指定短语来访问账户。
然而，随着AI语音和视频克隆技术的不断进步，如今已经能够在极高的精度下模仿个人的声音和影像，甚至达到“几乎无法与真实区分”的程度。对此，奥尔特曼指出，这种技术的快速发展对身份验证构成了新的挑战，未来亟需开发更可靠、更安全的验证方式。 我认为，技术的进步固然令人惊叹，但其带来的伦理与安全问题也不容忽视。在信息真假难辨的时代，如何有效识别真实与伪造，将成为社会必须面对的重要课题。相关部门和技术企业应加快研究应对措施，确保技术发展不会成为滥用的工具。
美国联邦调查局去年曾发出警告，指出AI语音和视频“克隆”诈骗问题日益严重。有家长反映，不法分子利用AI语音技术冒充其子女，制造紧急假象，诱导家长转账汇款，从而实施诈骗。 这类技术的滥用令人担忧，不仅侵犯了个人隐私，更对家庭安全构成威胁。随着AI技术的不断进步，相关犯罪手段也愈发隐蔽和高效，给警方和公众防范带来更大挑战。相关部门需加强监管和技术防控，同时提高公众对此类诈骗的识别能力，以减少受害者的数量。
留言评论
(已有 0 条评论)暂无评论，成为第一个评论者吧！