点击 ▶ 收听播客。
随着人工智能技术的飞速发展，AI深度伪造内容正在社交平台上播下混乱的种子。
皇家墨尔本理工大学工业人工智能研创中心主管、澳大利亚人工智能委员会秘书长宋正（Andy Song）副教授表示，AI深度伪造技术利用深度学习等先进技术，可以生成高度逼真的虚假内容，包括图像、视频和音频等。
从模仿他人的高逼真虚假音视频到误导性的广告信息，这些伪造内容不仅挑战着公众的认知边界，也对社会的稳定和安全构成了严重威胁。
有人担忧如今的检测和识别技术会被不断自我学习成长的AI“攻破”，也有人对技术的双刃剑为不法分子所持而感到忧虑。
对此，宋正副教授是怎么看的呢？
AI还不会“自主伪装” 但安全威胁依然存在
关于AI是否会学会绕开检测与识别的问题，宋副教授明确表示，目前还没有看到哪一个AI系统能够自主增强自己的欺骗性。
他解释说，AI系统本身并不具备这样的动机，而是由背后的主导者利用AI工具来增强其欺骗性。
他说：“这个要干，基本上都是后面的主导者干的。我还没有看到哪一个AI系统能够自主地去增强自己的欺骗性，或者说能够去伪装得更好。它没有这种动机。”
他提到，例如人们会使用AI工具用于将生成得视频或图片制作得更为逼真，以降低音视频制作成本，用于电影、广告等行业；反过来，也可能有人用AI为法庭诉讼制作伪证等。
因此，AI缺乏自主增强欺骗性得动机，并不意味着我们可以忽视这一技术带来的安全威胁，如伪造证据甚至诈骗等。
他特别提到了伪造亲人声音进行诈骗的可能性，指出这将是一个严重的社会问题。
“我知道AI已经发展到这一步了。那么当人接到一个电话的时候，他很可能就不假思索地认为这个是他所熟悉的人，他所熟悉的声音，因为他的习惯思维……就做出判断了。
提高认知、加强监管与持续研究缺一不可
为了应对这些挑战，宋副教授认为我们需要从多个方面入手。
首先，提高公众对AI技术的认知和防范意识至关重要。
他说：“还是需要去做一些公众方面的公共教育，让大家提高这方面的防范意识。目前来说，司法机构可能从技术上面或许还是不太能有方法去杜绝这方面的诈骗方法和手段的。”
他建议公众多关注AI技术的发展动态，了解其最新进展和潜在风险。
其次，政府部门和相关机构需要加强监管和立法工作，确保AI技术的合理应用和安全管理。
此外，科研人员也需要继续深入研究AI技术的安全性和可靠性问题，为实际应用提供更有力的保障。
“杜绝诈骗手段可能比较困难，但是检测手段也在不断提高。比如说好多这些工具，如果你检测它，都比如说是从一些非常可疑的IP地址来的，并不是真实用户的地址。那么后台的监管机构，它可能能够通过识别这些IP地址，看出这里面有猫腻。”
最后，宋副教授再次强调了AI技术发展的双刃剑特性。
他呼吁公众既要看到AI技术带来的便利和进步，也要警惕其潜在的安全风险。只有这样，我们才能更好地利用AI技术为人类社会的发展贡献力量。
欢迎下载应用程序SBS Audio，关注Mandarin。您也可以通过苹果播客、Spotify等播客平台随时收听和下载SBS普通话音频故事。请在 和 关注SBS中文，了解更多澳洲新闻。
