需要在判决没下之前才可以撤销谅解书。

刑事和解协议书的履行效力：

1、对达成和解协议的案件，人民法院应当对被告人从轻处罚；

2、符合非监禁刑适用条件的，应当适用非监禁刑；

3、判处法定最低刑仍然过重的，可以减轻处罚；

4、综合全案认为犯罪情节轻微不需要判处刑罚的，可以免除刑事处罚。

相关法律知识

《中华人民共和国刑事诉讼法》第二百九十条对于达成和解协议的案件，公安机关可以向人民检察院提出从宽处理的建议。人民检察院可以向人民法院提出从宽处罚的建议；对于犯罪情节轻微，不需要判处刑罚的，可以作出不起诉的决定。人民法院可以依法对被告人从宽处罚。