在对行政处罚进行听证后，如果行政机关负责人发现确有应受行政处罚的违法行为的，应根据具体情况作出行政处罚的决定；如果依法可以不予处罚的，则不予行政处罚；如果违法行为涉嫌犯罪的，则移送司法机关。

一、有权举行听证会的三种情况

1.行政处罚案件重大、复杂，需要极其慎重决定的，在作出行政处罚决定之前，行政机关组织听证，有利于作出正确的行政处罚决定;

2.符合行政处罚法规定的听证案件范围，并且当事人对事实的认定确有不同意见，当事人又有听证意愿的，但是当事人因客观原因或者有正当理由，在行政机关告知后的3日内未能提出听证要求的，行政机关可以根据情况决定是否组织听证;

3.行政处罚案件在本行政机关的权限范围内的行政管理事项中，带有普遍性或者有很大影响的，通过公开举行听证，可以扩大影响，有利于教育公民、法人或者其他组织自觉守法，行政机关可以组织听证。

二、该如何减轻行政处罚

当事人有下列情形之一的，应当依法从轻或者减轻行政处罚:(一)主动消除或者减轻违法行为危害后果的;(二)受他人胁迫有违法行为的;(三)配合行政机关查处违法行为有立功表现的;(四)其他依法从轻或者减轻行政处罚的。违法行为轻微并及时纠正，没有造成危害后果的，不予行政处罚。

三、行政拘留后还会追究刑事责任吗

行政拘留后是可以追究刑事责任的。根据《行政处罚法》的相关规定，发现违法行为涉嫌犯罪的，行政机关应当及时将案件移送司法机关，依法追究刑事责任。对依法不需要追究刑事责任或者免予刑事处罚，但应当给予行政处罚的，司法机关应当及时将案件移送有关行政机关。