对抗样本简介
对抗样本(Adversarial Example Attack)是机器学习模型的一个有趣现象,攻击者通过在源数据上增加人类难以通过感官辨识到的细微改变,但是却可以让机器学习模型接受并做出错误的分类决定。一个典型的场景就是图像分类模型的对抗样本,通过在图片上叠加精心构造的变化量,在肉眼难以察觉的情况下,让分类模型产生误判。
支持多种攻击模式
支持生成untargeted或targeted对抗样本。
自动优化攻击速率
支持手工指定以及自动调节eps,兼顾攻击成功率和对抗样本生成速度。
支持自定义算法
架构开放,可扩展性强,便于AI安全研究人员开发、调试新的攻击算法。
安装AdvBox
安装paddlepaddle
创建paddlepaddle环境
通常使用anaconda创建不同的python环境,解决python多版本不兼容的问题。目前advbox仅支持python 2.*, paddlepaddle 0.12以上。
conda create --name pp python=2.7
通过下列命令激活paddlepaddle环境
source activate pp
如果没有安装anaconda,可以通过下载安装脚本并执行。
大型站长资讯类网站! https://www.nzzz.com.cn