间谍枪的结构并不复杂，它是以气体的压力将有害物质推出的。发射时，扣动板机，击锤被释放，并在弹簧力作用下撞击气瓶（内盛装气体），气体以其突然增大的压力将有害物质从枪管中射出。
由于间谍枪的伪装巧妙，因此，一般不易被发现。间谍枪多伪装成日常生活用具，有的还装有消音器等。例如，一种伪装成公文箱的间谍枪，是在扁平的普通公文箱中装置着一支枪管较短的来复枪，并带有消声筒。箱子的提手环就是击发控制机构。它通过一个转动杆与击发装置相连接。在箱子前面的皮革上开有小孔，子弹从这里射出。
烟盒、打火机也常是间谍枪的“藏身之处”。另外，还有用烟斗、钢笔、钥匙、铅笔、甚至腰带扣等伪装起来的间谍枪，五花八门，式样繁多。
现代科学技术也被用于间谍武器上。例如，美国曾查获过一种称为“特死枪”的电子武器。
这种枪的外壳用塑胶制成，便于手持射击。它里面藏有一根长约4米的绝缘导线，其一端通过插头与电源相接，另一端装有两个金属小倒钩。当开枪射击时，枪内的电容器放电系统就放出5万伏特的可变电流，将倒钩喷射出来。若这种倒钩附着在人身上，就会使人的心脏剧烈跳动而失去战斗力。