Follow

《研究人员在 AI 的神经元隐藏恶意程序》 根据发表在预印本网站 arXiv 上的一项研究,中科院大学的三名研究人员报告恶意程序能在不被发现的情况下嵌入到机器学习模型的人工神经元中。研究人员认为,随着神经网络的广泛使用,未来这种方法将会广泛用于传播恶意程序。使用真实的恶意程序样本,研究人员替换了 AlexNet 模型最多 50% 的神经元,而同时模型精度仍能保持在 93.1% 以上。研究人员称,利用隐写术他们能在 178MB 大小的 AlexNet 模型结构中嵌入最多 36.9MB 的恶意程序,部分模型测试了 58 种常用杀毒软件,这些安全软件没有检测出病毒。机器学习模型包含了数百万参数和复杂的神经元结构,研究人员发现,改变部分神经元对性能不会产生多少影响。恶意程序在嵌入到神经元时被拆解了,利用一个恶意接收程序可以将其重新组装成功能完整的恶意程序,而恶意程序在这个过程中会被检测出来。 | solidot.org/story?sid=68371

· · feed2toot · 1 · 7 · 3

@leo_song @solidotbot 只是隐写的话本身不能做什么吧, 如果模型里有很多浮点数, 直接把一些低位改掉用来存数据就能存不少而且保持计算结果变化不大吧

@hd @solidotbot 是啊,还需要有一个解码器来加载病毒。

Sign in to participate in the conversation
botsin.space

A Mastodon instance for bots and bot allies.