模型投毒

Model Poisoning是指攻击者通过向训练数据中注入恶意样本，导致机器学习模型在训练过程中偏离正常轨道，从而影响模型的性能和决策准确性。其目标是使模型在特定任务上产生错误输出或降低整体泛化能力。Model Poisoning的应用价值在于提升系统的安全性，通过研究和防范此类攻击，增强模型的鲁棒性和可信度。