根据《仲裁法》第62条、第63条、第71条的规定，当事人应当履行仲裁裁决，一方当事人不履行的，另一方当事人可以依照《民事诉讼法》的有关规定向人民法院申请执行。被申请人提出证据证明国内仲裁裁决有《民事诉讼法》第217条第2款规定的情形之一的，或者涉外仲裁裁决有《民事诉讼法》第260条第1款规定的情形之一的，经人民法院组成合议庭审查核实，裁定不予执行。显然，不予执行程序只能由拒绝履行仲裁裁决的被申请人(通常是败诉方当事人)提起，主要是为被申请人提供必要的司法救济，使之有机会行使纠正不当裁决的权利。对于仲裁裁决是否具有法定的不予执行的理由，被申请人须负举证责任，人民法院不主动进行审查。

根据《民事诉讼法》第140条的规定，人民法院认定不予执行仲裁裁决的，应当以“裁定”的形式作出，但当事人对此不服的，不允许上诉。1996年6月26日最高人民法院作出的《关于当事人对不予执行仲裁裁决的裁定不服而申请再审人民法院不予受理的批复》指出，依照《民事诉讼法》第217条的规定，人民法院对仲裁裁决依法裁定不予执行，当事人不服而申请再审的，没有法律依据，人民法院不予受理。依法理，该《批复》同样应适用于涉外仲裁裁决。因为适用于涉外仲裁裁决的《仲裁法》第9条第2款以及《民事诉讼法》第260条第2款中关于裁决被裁定不予执行后，当事人可以采取的补救措施，与《民事诉讼法》第217条第5款中规定得完全一致，即仲裁裁决被人民法院裁定不予执行后，当事人可以根据双方当事人达成的书面仲裁协议重新申请仲裁，也可以向人民法院起诉，不存在再审问题。

不允许当事人对人民法院作出的不予执行裁决的裁定提起上诉或申请再审，显然是我国仲裁制度上的一个缺陷。这不仅不利于人民法院对仲裁裁决正确地进行司法监督，也不利于维护仲裁裁决的效力以及保护申请执行裁决的一方当事人的合法权益。不过，最高人民法院在其1995年8月29日发布的《关于人民法院处理与涉外仲裁以及外国仲裁事项有关问题的通知》中，确立了人民法院裁定不予执行涉外仲裁裁决的报告制度。该《通知》指出，凡一方当事人向人民法院申请执行我国涉外仲裁裁决，如果人民法院认为仲裁裁决具有《民事诉讼法》第260条所规定的情形之一的，在裁定不予执行之前，必须报请本辖区所属高级人民法院进行审查;如果高级人民法院同意不予执行，应将其审查意见报最高人民法院，待最高人民法院答复后，方可裁定不予执行。据此，中级人民法院如欲裁定不予执行涉外仲裁裁决，需报请辖区所属高级人民法院和最高人民法院同意，使高级人民法院尤其是最高人民法院得以有效地控制各地拒绝执行涉外仲裁裁决的行为。从目前来看，这种多级审查和报告制度对于监督各地人民法院严格执行和正确适用《仲裁法》和《民事诉讼法》的有关规定，维护仲裁裁决的效力和仲裁的权威，保护当事人的合法权益，发挥了重要作用，并使人民法院系统内能够有机会对其作出的错误裁定予以纠正。

但是，这种为我国所独有的高度集权的报告制度在具体实施中还存在许多严重的弊端，如手续繁琐、时间冗长、浪费司法成本、降低司法效率等，因而只能作为一种权宜之计。笔者认为，要健全和完善我国的司法监督机制，还必须设置上诉制度，即允许当事人对人民法院作出的不予执行的裁定向上级人民法院提起上诉。当然，为了防止人民法院过多地介入和干预仲裁，也为了防止一方当事人借上诉的机会拖延和破坏仲裁，还有必要对当事人的这种上诉权加以适当的限制。例如，要求当事人提起上诉须得到人民法院的准许或存在合理的上诉理由等。