行政处罚出现错误的，可以这样撤销：

1、由上级行政机关或者有关部门责令改正；

2、人民法院经过审理，判决撤销或者部分撤销，并可以判决被告重新作出具体行政行为。

一、作出的行政处罚决定如何收回

已经作出行政处罚决定的，被处罚人对处罚决定不服的，可以申请行政复议，复议事项成立的。撤销行政处罚决定。具体行政行为有下列情形之一的，决定撤销、变更或者确认该具体行政行为违法：1.主要事实不清、证据不足的；2.适用依据错误的等。

二、行政处罚决定书下来之后怎么更改

行政处罚决定作出后，若经行政复议或行政诉讼后该处罚决定被判定为违法，则可以由人民法院或行政复议机关责令作出该处罚决定的行政机关做出变更。若具体行政行为有主要事实不清、证据不足；或适用依据错误等情形的，法院能决定撤销、变更或者确认该具体行政行为违法。

三、行政处罚违法程序

民法院经过审理，根据不同情况，分别作出以下判决：1、具体行政行为证据确凿，适用法律、法规正确，符合法定程序的，判决维持。2、被告不履行或者拖延履行法定职责的，判决其在一定期限内履行。3、行政处罚显失公正的，可以判决变更所以法院应该判决撤销或者部分撤销，并可以判决被告重新作出具体行政行为。