行政处罚时行政机关应收集进行行政处罚的证据，行政机关发现公民、法人或者其他组织有依法应当给予行政处罚的行为的，必须全面、客观、公正地调查，收集有关证据；然后根据情节轻重及具体的情况，作出相应的行政处罚决定。如果违法行为轻微，依照法律规定可以不进行行政处罚的，就不需要进行行政处罚。

行政处罚的简易程序

即当场处罚程序，主要适用于事实清楚、情节简单、后果轻微的违法行为。适用简易程序必须符合以下三个条件：

1、违法事实确凿。即当场能够有充分的证据确认违法事实，无需进一步调查取证；

2、有法定依据。

对于该违法行为，法律、法规或者规章明确规定了有关处罚的内容，实施处罚的人员当场可以指出具体的法律、法规或者规章的依据，如果没有法定的依据，即使违法事实确凿，也不能当场处罚；

3、符合行政处罚法所规定的处罚种类和幅度。

只有对个人处以50元以下，对组织处以1000元以下罚款或者警告的处罚可以当场进行，其他处罚不能适用简易程序。

《行政处罚法》第三十八条

调查终结，行政机关负责人应当对调查结果进行审查，根据不同情况，分别作出如下决定：

（一）确有应受行政处罚的违法行为的，根据情节轻重及具体情况，作出行政处罚决定；

（二）违法行为轻微，依法可以不予行政处罚的，不予行政处罚；

（三）违法事实不能成立的，不得给予行政处罚；

（四）违法行为已构成犯罪的，移送司法机关。对情节复杂或者重大违法行为给予较重的行政处罚，行政机关的负责人应当集体讨论决定。在行政机关负责人作出决定之前，应当由从事行政处罚决定审核的人员进行审核。行政机关中初次从事行政处罚决定审核的人员，应当通过国家统一法律职业资格考试取得法律职业资格。