电磁除铁器的主要结构包括励磁系统、传动系统和冷却系统。
励磁系统：
包括励磁线圈、导磁铁芯、磁板以及接线盒等。电磁铁通常采用铸钢铁芯及特殊加工的铜或铝绕组经过高温绝缘处理制成，耐温等级为H级。当配有金属探测器时，还可经探测器自动进行常励磁和强励磁的切换。非导磁部分常采用不锈钢板，从而提高整机性能。
传动系统(指自动弃铁部分)：
包括驱动装鼹、主动滚筒、改向滚筒、托辊和弃铁胶带等驱动装置采用摆线针轮减速器通过链传动带动主动滚筒，(包有的是直接用油冷式电动滚筒传动；主动滚筒、改向滚筒支座与机架连接均为可调整式；弃铁胶带采用环形带，胶带上装有非磁性金属制作的刮板，用于防止所吸出的铁块在胶带上打滑，确保自卸效果。
冷却系统：
直流电磁铁的励磁线圈，在工作时产生大量的热量，致使励磁线圈的温度升高，因此必须对电磁铁进行降温以保证其良好运行性能。电磁铁的冷却方式有自然冷却、强迫风冷和油冷式。强迫风冷是采用离心式风机进行强迫冷却；油冷式电磁除铁器是将油浸电力变压器的冷却技术应用到电磁除铁器上，用变压器油浸渍线圈，并用波纹散热翅片帮助冷却。
油冷式电磁除铁器本体在结构上与强迫风冷式电磁除铁器有点区别，油冷式电磁除铁器采用全封闭式结构，其本体的四周是钢板，磁轭是钢板，底郝是无磁钢板。焊成不透油的箱壳，既能盛油，又兼作磁体，排除了有害气体和粉尘对励磁线圈的影响。与强迫风冷式电磁除铁器相比，具有更高的可靠性。