课程 ID: 19188
描述:
话题概述:
随着AI能力在手机、车载、IoT等智能终端的深度普及，终端侧AI已形成开放协同的生态体系，AI模型本地化部署、多设备跨端交互、第三方Skill插件接入等场景日益普遍，但同时也带来了新型安全隐患，给我们的安全防护项目带来了多重严峻挑战。当前，终端侧AI生态的安全防护仍停留在传统终端安全层面，未针对AI特性构建专属防御体系，具体面临三大核心痛点：一是AI模型安全失控，终端侧轻量化模型易被窃取、逆向破解，且存在提示词注入、模型幻觉等风险，如攻击者可通过诱导AI终端执行高危命令、泄露敏感凭证；二是生态交互环节脆弱，终端AI与云端、第三方插件的接口缺乏严格校验，Skill供应链投毒、API越权调用等问题频发，类似ClawHavoc攻击事件已证明，攻击者可利用协议漏洞实现远程代码执行，彻底控制终端；三是权限与数据安全失守，AI智能体默认继承用户全部权限，易被黑灰产利用无障碍权限等突破沙箱隔离，窃取用户隐私数据、操控终端功能，且传统风控手段难以识别拟人化的AI恶意操作
演讲题纲:
话题亮点：
以威胁建模为引擎驱动攻防研究，以实证案例为支撑推动防护落地——围绕终端AI专项威胁建模、Prompt Injection攻击面实测、端侧模型安全性评估三条主线，构建覆盖“发现—验证—加固”全链路的终端AI安全研究体系。