“生物攻击有像识别的经验教训”

病原体在免疫系统中采用的妙手，类似于瞧不起图像识别算法的技术。

人体免疫系统必须区分身体自身的细胞和入侵者。 同样，标准脸部识别软件必须将对象脸部与其他所有脸部进行区别。 新的数学模型解释了这个类比，表明众所周知的智能免疫系统策略类似于愚弄模式识别系统的标准做法。 该模型的建立者表示机器学习和免疫学行业将受益于其他行业的方法

每当免疫细胞遇到新的生物分子(配体)，例如病毒的蛋白质涂层，就必须对分子进行分类，并做出适当的反应。 但系统并不完美。 例如，HIV可以不产生免疫反应。 加拿大麦吉尔大学的保罗Franois说:“从免疫学上来看，有一种我并不认为会小看免疫细胞的做法。” 他认识到一些病原体超越免疫系统的方法和许多庞杂的黑客瞧不起图像识别软件的方法之间有相似之处。

免疫细胞区分分子的一种形式，与细胞表面上的受体结合的比较长。 粘性分子很可能是外来的病原体的一个策略是与受体结合，利用具有中间粘性的被称为拮抗剂的边缘分子压倒免疫细胞。 令人惊讶的是，这种情况也能降低细胞对明显的外来分子激活免疫反应的可能性。

人工神经网络-模仿脑细胞互联网的计算机程序-用各种图像数据进行训练后，可以用于图像识别。 但是，将图像精心结构化，几乎注意不到的编撰修改有时会像熊猫一样被错误分类为长臂猿。

在这两种情况下，攻击者都试图使排序系统错误地将对象分类。 为了正式表示这个类比，弗朗索瓦和同事开发了一个由被称为t细胞的免疫细胞决定的数学模型。 在这个模型中，这是以前模型的变形，细胞的多个受体暴露在具有一系列粘性值的多个配体中。 其次，在该模型中，假设一系列生化反应与受体结合和解除结合，对细胞是否激活免疫应答的数字进行得分。 从生物化学的角度来看，得分是某个生物分子的浓度。 生物化学反应中含有加油踏板，可以提高分数，更容易发生免疫反应，同时制动

该小组与能够区分手写7和3的基于神经网络的模式识别系统进行了比较。 该系统的输入是未知的图像，包含一组与配体初始分布相似的像素亮度值。 生物学的例子。 神经网络根据其输入生成得分，用此来明确图像是7还是3。

研究人员表示，用于生成轻微干扰图像的标准数学程序将欺骗模式识别系统直接转换为生物模型。 在t细胞模型中，这种摄取图像对应降低免疫应答可能性的拮抗剂策略。 这个小组还展示了受生物例子启发的神经互联网例子的防御战略。 从类似的生物模型中已知的拮抗剂防御是在计算分数时减少弱结合配体的重量，这些配体不是很有效的拮抗剂。 这个战略表明，将稍弱的背景像素设定为零，团队更有效地阻止了欺骗神经互联网的尝试。

纽约城市大学的生物物理学家david schwab说，阻止攻击模式识别系统的新方法非常重要，因为它会产生实际的结果。 例如，特斯拉的工程师注意到，在道路上做标记，可以自动更换自动驾驶汽车。 同样，战术上放置在停车标志上的标签可以说谎识别错误的符号，从而可能导致致命的后果。