不是应当一律撤销。在立法时，是可以撤销。而且规定了，即使是违反法定程序做出的许可，如果撤销可能对社会公共利益造成重大损害的，不予撤销。有违反法定程序作出准予行政许可决定的情形的，作出行政许可决定的行政机关或者其上级行政机关，根据利害关系人的请求或者依据职权，可以撤销行政许可；被许可人以欺骗、贿赂等不正当手段取得行政许可的，应当予以撤销，如果是撤销行政许可，可能对公共利益造成重大损害的，不予撤销。

一、行政机关撤销行政许可法定程序是什么？

行政机关撤销行政许可要走的程序如下：

(一)撤销权行使的启动。

1、由利害关系人的请求启动。按照法律规定，作出行政许可决定的行政机关或者其上级行政机关，根据利害关系人的请求，可以撤销行政许可。因此，当公民、法人发现他人的行政许可给自己的权益造成侵害或可能造成侵害，他就可以根据行政许可法的相关规定向作出该行政许可决定的行政机关或者其上级行政机关提出申请，请求予以撤销。作出该许可决定的行政机关或其上级行政机关必须受理。

2、行政机关监督检查中发现。在执法检查中，或者是群众举报，作出行政许可决定的行政机关或者其上级行政机关，发现行政机关违法作出行政许可决定，必须启动撤销该行政许可的程序。

(二)立案。这可以借鉴行政处罚法的相关规定，行政机关启动了行政许可的撤销程序后，行政机关的负责人必须指派两名以上的工作人员承办该案，承办该行政许可决定的审批人员实行回避制。

(三)调查取证。这是非常关键的一个环节。主要要收集两类证据，一类是事实类，另一类是法律法规类，这是决定是否撤销的依据。

(四)调查终结。承办人员在收集到相关证据后，应写出调查终结报告，调查终结报告的内容应包括：当事人的基本情况、主要事实、处理依据、处理决定建议等。

(五)听证。行政许可法第4章第4节专门规定了听证，因此，撤销行政许可程序中的听证，完全可以参照该节有关规定执行。

(六)作出决定。填写《撤销行政许可决定审批表》，将听证笔录连同案卷材料报局长审批，作出是否撤销行政许可决定，决定撤销行政许可的，作出书面决定，向当事人、利害关系人送达。撤销行政许可决定书应当包括：撤销的理由、依据、并告知当事人和利害关系人自接到撤销决定书之日起60日内可向上级行政机关申请行政复议或在三个月内直接向人民法院提起行政诉讼。