在具体操作层面，非法证据排除可以在刑事诉讼过程中的三个阶段进行:

1、检察阶段。

这一阶段又分为批捕和审查起诉两个环节。

在批捕环节，检察机关发现侦查机关所取证据存在违法行为的，可以责令其予以纠正，并不得将非法证据作为批准逮捕的依据，乃至作出不予批准逮捕的决定。

在审查起诉环节发现非法证据的，除了责令侦查机关予以纠正外，还可以主动将非法证据予以排除，使之在案件移送至法院之前就被清理掉。

可见，这一阶段主要是检察机关依职权主动进行的。

2、庭前会议阶段。

根据最高人民法院发布的《人民法院办理刑事案件庭前会议规程(试行)》规定，适用普通程序审理的刑事案件，法院可以决定在开庭审理前召开庭前会议。

庭前会议中，被告人及其辩护人可以申请排除非法证据，但应提供相关的线索和材料，检察机关应当就证据的合法性作出说明。

如果双方达成一致意见，则可以排除非法证据;

如果未能达成一致意见，则该争议问题就会进入庭审阶段展开法庭调查。

3、庭审阶段。

庭前会议的目的，是为了将有关程序性事项在庭审前就进行解决，以便庭审时能够集中精力审理案件的实体方面。

对排除非法证据存在争议的，应当在庭审中进行解决。

但根据庭前会议规程规定，公诉人提供的证据材料确实、充分，能够排除非法取证情形，且没有新的线索或者材料表明可能存在非法取证的，庭审调查举证、质证可以简化。

此外，如果被告人及其辩护人在庭前会议阶段未提出申请排除非法证据，如果有新的证据证实可能存在非法证据情形的，也可以在庭审阶段提出。

否则，庭前会议阶段未提出的，庭审时应不得再提出。

不管是什么样的诉讼最重要的环节就是证据的质证，而在刑事诉讼当中对于从非法的渠道来获得的证据是绝对不能够作为证据使用的，需要依法进行排除，而非法证据排除的阶段，主要有三个，一个是检查阶段，另外就是庭前会议和庭审阶段。