早在19世纪80年代，电阻、电容滤波电路就已经出现，具有频率选择功能的电感、电容谐振电路可作为最简单的滤波器。
于1915年德国K.W.华格纳和美国贝尔实验室的G.A.坎贝尔，分别发表了关于滤波器的论文，已被世界公认为滤波器的独立发明者。
1923年以后，贝尔实验室的O.J.查贝尔提出定K型、m诱导型视频参数滤波器设计方法。
1939年德国W.考尔和美国S.达灵顿分别提出工作参数滤波器设计理论，由于许多电路和系统都要区分不同频率的信号，滤波器遂被广泛地用在通信、广播、雷达以及许多仪器和设备中。
许多复杂的多极LC滤波器也已经存在了好多年了，有许多这方面的书籍讲述这类滤波器的工作。
最古老的电子滤波器形式是使用电阻和电容或者电阻和电感构建的无源模拟线性滤波器，它们分别叫做RC和RL单极滤波器。
人们也开发了一些混合滤波器，典型的例子有将模拟放大器与机械共鸣器或者延时线组合在一起。如CCD延时线这样的设备也用作离散时间滤波器。
由于数字信号处理的广泛应用，有源数字滤波器已经变得常见。
