对犯罪分子实施减刑、假释的时候，一般由犯罪分子服刑所在的法院进行决定。

《最高人民法院关于减刑、假释案件审理程序的规定》第一条规定：对减刑、假释案件，应当按照下列情形分别处理：

(一)对被判处死刑缓期执行的罪犯的减刑，由罪犯服刑地的高级人民法院在收到同级监狱管理机关审核同意的减刑建议书后一个月内作出裁定；

(二)对被判处无期徒刑的罪犯的减刑、假释，由罪犯服刑地的高级人民法院在收到同级监狱管理机关审核同意的减刑、假释建议书后一个月内作出裁定，案情复杂或者情况特殊的，可以延长一个月；

(三)对被判处有期徒刑和被减为有期徒刑的罪犯的减刑、假释，由罪犯服刑地的中级人民法院在收到执行机关提出的减刑、假释建议书后一个月内作出裁定，案情复杂或者情况特殊的，可以延长一个月；

(四)对被判处拘役、管制的罪犯的减刑，由罪犯服刑地中级人民法院在收到同级执行机关审核同意的减刑、假释建议书后一个月内作出裁定。

对暂予监外执行罪犯的减刑，应当根据情况，分别适用前款的有关规定。

一、假释期间遵守的规定有哪些？

在假释考验期内，被宣告假释的犯罪分子，应当遵守下列规定：

1、遵守法律、行政法规、服从监督管理；

2、按照监督机关的规定报告自己的活动情况；

3、遵守监督机关关于会客的规定；

4、离开居住的市、县或者迁居，应当报经监督机关批准。

由此可见，罪犯服刑的监狱并没有权利直接对罪犯进行减刑或假释，监狱有提出减刑或假释的权利，但是否同意减刑或假释应该由人民法院进行审查，如果是对被判处拘役和管制的罪犯决定减刑的话，中级人民法院就有裁定权。