依据我国相关法律的规定，行政案件已经构成犯罪的，应该按照《公安机关办理刑事案件程序规定》办理，由公安机关追究刑事责任。

《公安机关办理行政案件程序规定》

第六十五条对发现或者受理的案件暂时无法确定为刑事案件或者行政案件的，可以按照行政案件的程序办理。在办理过程中，认为涉嫌构成犯罪的，应当按照《公安机关办理刑事案件程序规定》办理。

《公安机关办理刑事案件程序规定》

第一百七十五条公安机关接受案件后，经审查，认为有犯罪事实需要追究刑事责任，且属于自己管辖的，经县级以上公安机关负责人批准，予以立案;认为没有犯罪事实，或者犯罪事实显著轻微不需要追究刑事责任，或者具有其他依法不追究刑事责任情形的，经县级以上公安机关负责人批准，不予立案。

对有控告人的案件，决定不予立案的，公安机关应当制作不予立案通知书，并在三日以内送达控告人。

被行政拘留保证金可以退吗

首先，申请暂缓执行行政拘留并交纳保证金后，以下情形会退还：

1、行政拘留的处罚决定被撤销

按规定，行政处罚符合以下条件的会被撤销：

(1)行政处罚法要件缺损。合法的行政行为具备主体合法、内容合法、程序合法三要素，所以若是有超越职权或滥用职权的，即主体不合法，那么会被撤销。

(2)行政处罚不适当。对于“不适当”，是指相应行政行为不合理、不公正、不符合现行政策、不合时宜、不符合有关善良风俗等，比如行政机关违反法定程序。

2、行政拘留处罚开始执行

如果行政拘留开始执行，意味着不再暂缓执行，那么之前交的保证金，就要按规定返还被行政处罚的人。

其次，被决定给予行政拘留处罚的人交纳保证金，暂缓行政拘留后，又逃避执行的，将拿不回保证金，会被依法上缴国库，并且行政拘留处罚会继续。