机器遗忘赋能安全智能教育应用实践

Abstract

“人工智能+教育”的深度融合依赖于对教育数据的无感采集与融合计算，这种数据密集型的研究范式 极大地推动了智能教育的发展与进步。然而，随着基于人工智能的教育模型的广泛应用，一系列安全风险也随 之浮现，这些风险覆盖了从数据采集、模型训练到输出结果的全过程。本研究通过系统分析，揭示了在这一过 程中可能遇到的安全隐患：数据采集阶段存在数据正确性与安全性的双重挑战；模型训练阶段则面临算法偏见 与模型安全性的风险；而在数据应用阶段，结果的准确性、公平性及安全性同样令人担忧；这些风险实际根源 于数据问题。因此，本研究致力于探索先进技术手段以应对这些挑战，特别分析了机器遗忘技术在缓解安全风 险方面的潜力，并通过人脸识别模型保护的实例进行了实践验证，从而为确保模型安全提供了切实可行的方法。