Jangseung: A Guardian for Machine Learning Algorithms to Protect Against Poisoning Attacks

Jangseung: A Guardian for Machine Learning Algorithms to Protect Against Poisoning Attacks abstract。

解决的问题

很多智能城市应用依赖机器学习，然而对抗扰动可以嵌入到训练数据中导致模型返回错误的结果。
Jangseung是一个预处理器，可以在不影响准确性的情况下限制中毒攻击的影响。创建 Jangseung 是为了利用异常检测算法来保护支持向量机免受中毒数据影响。

思路与方法

数据扰动

通过添加数据扰动来评估本文提出方法的效果，添加数据扰动的方法是Munoz-Gonzalez等人提出的。

Janseung 防护

两个空数组被初始化，一个用来跟踪 受保护的支持向量机 guard SVM，一个用来跟踪 不受保护的支持向量机 unguard SVM.

两个独立的森林针对对应的标签(一个正样本AD+，一个负样本AD-)来训练。

然后根据两个模型的值来进行异常值检测，对于新的输入，先通过异常值检测器获得一个预测，如果预测为负样本则送入正样本训练的SVM获得一个pass值，如果预测为正阳被则送入负样本训练的SVM获得一个pass值。

根据pass值决定是否需要过滤数据。