🤔人工智能就像一把刀，它本身无所谓善恶，只是一个工具。 [5, 6] 它可以被好人使用，也同样可以且一定会被坏人利用。 [7] 演讲者认为，目前他并不太担心人工智能本身，而是更担心人类的愚蠢。 [61, 62]
💡AI的输出质量完全取决于训练数据的质量。 [35, 36] 如果训练数据有偏差（例如，网络上80%的三文鱼图片都是烟熏三文鱼），AI的输出也会产生偏差（例如生成烟熏三文鱼片而非活鱼）。 [39, 42, 44]
演讲者：Marty Hoffman (犯罪分析师与商业心理学家)
🤔人工智能就像一把刀，它本身无所谓善恶，只是一个工具。 [5, 6] 它可以被好人使用，也同样可以且一定会被坏人利用。 [7] 演讲者认为，目前他并不太担心人工智能本身，而是更担心人类的愚蠢。 [61, 62]
💡AI的输出质量完全取决于训练数据的质量。 [35, 36] 如果训练数据有偏差（例如，网络上80%的三文鱼图片都是烟熏三文鱼），AI的输出也会产生偏差（例如生成烟熏三文鱼片而非活鱼）。 [39, 42, 44]
网络犯罪已经形成一个庞大的黑色经济体，而非孤立的青少年黑客行为。 [64, 65]
📈到明年（2025年），网络犯罪每年将给世界造成超过 10万亿美元 的损失。 [68] 如果将网络犯罪视为一个国家，按GDP计算，它将成为仅次于美国和中国的全球第三大经济体。 [70, 71, 72]
💼勒索软件 (Ransomware) 是其首要商业模式。 [75] 犯罪组织已经高度专业化，他们提供客户支持（甚至有实时聊天和电话客服）、拥有财务部门、招聘人才，并实行类似分销的“会员制度”。 [88, 94, 98, 100]
🤔AI将降低技术门槛，使得未来发动网络攻击不再需要高超的编程或语言技能，只需要一台笔记本电脑和一个动机。 [117, 118] 这将导致网络攻击更加频繁和复杂。 [119]
通过伪装成善意请求来绕过AI的安全限制。例如，要求AI提供恶意软件代码用于“网络安全演讲示例”。 [142, 148, 149]
使用精心设计的长篇提示词（如DAN - "Do Anything Now"）来操纵AI，使其违反自身的规则。 [150, 153, 154]
犯罪分子已经开始开发自己的、无道德约束的AI模型，如 WormGPT，专门用于生成恶意代码和完美的钓鱼邮件。 [173, 174, 175]
🔮虽然尚未实现，但长期来看，完全自动化的勒索软件攻击（由AI自主选择目标并发动攻击）并非不可能。 [188, 193]
📸技术已发展到仅需一张高清照片就能生成以假乱真的视频，仅需 15到30秒 的音频就足以克隆任何人的声音。 [205, 209]
这带来了多方面的威胁：
攻击者的心理战术核心不变：利用 时间紧迫、情绪波动、打破常规 来进行欺骗。 [283]
在接到可疑的紧急请求时（无论是电话还是邮件），暂停一下，通过以下方式核实：
📢网络安全意识教育的目标群体是那些“根本不关心网络安全”的人。 [301, 302] 因此，教育方式必须变得 有趣且娱乐化，并且要 关注人的故事，而不仅仅是商业案例，这样才能真正触及和启发大众。 [305, 306, 311]
✨人工智能是我们一生中最大的机遇，而错失这个机遇才是最大的风险。 [312, 313] 我们应该拥抱这股浪潮，享受旅程，但务必保持安全。 [314]