【中文科技资讯】2月29日消息，奇安信集团最新发布的《2024人工智能安全报告》警告称，随着人工智能技术的恶意使用预期将迅速增长，政治、网络、物理和军事安全等领域将面临前所未有的威胁。
报告指出，人工智能作为一种通用技术，既带来了前所未有的机会，也带来了潜在的威胁。这些威胁既可能放大现有的安全风险，如钓鱼邮件和恶意软件，也可能引入全新的威胁形式，如基于AI的自动化攻击和深度伪造技术。
据中文科技资讯了解，奇安信在报告中提供了大量数据支持其观点。2023年，基于AI的深度伪造欺诈案例激增3000%，而利用AI技术发送的钓鱼邮件数量也增长了1000%。此外，奇安信威胁情报中心还发现，多个国家支持的先进持续性威胁(APT)组织已经利用AI技术实施了数十起网络攻击。
报告对基于AI的深度伪造、黑产大语言模型、恶意AI机器人、自动化攻击等12种重大威胁进行了深入研究，详细分析了它们的技术原理、可能造成的危害以及实际案例。报告强调，AI技术的普及不仅放大了现有的安全威胁，还引入了全新的威胁类型，这对全球安全形势构成了严峻挑战。
面对日益严重的AI网络攻击和AI武器化威胁，报告呼吁全行业启动人工智能网络防御推进计划。报告认为，AI技术将推动安全领域发生根本性的变革，各国应加强在人工智能领域的竞争，以获取未来的战略优势。同时，防御者需要利用AI技术来对抗恶意AI，以扭转当前的防御困境。
