需要有能证明与单位存在过劳动关系的证据，包括：工作证或工作牌（最好盖有公章）、工资卡交易记录、工资条、有公司名称的工装、去地税局打印并盖章的个税完税证明、用人单位办理的暂住证、考勤记录、社会保险缴纳记录、派工单、同事证言（离职在职的都可以）、录音录像或者其它有自己名字和公章或老板签字的的书面材料等。

法律依据：

《劳动合同法》第三十九条

劳动者有下列情形之一的，用人单位可以解除劳动合同：

（一）在试用期间被证明不符合录用条件的；

（二）严重违反用人单位的规章制度的；

（三）严重失职，营私舞弊，给用人单位造成重大损害的；

（四）劳动者同时与其他用人单位建立劳动关系，对完成本单位的工作任务造成严重影响，或者经用人单位提出，拒不改正的；

（五）因本法第二十六条第一款第一项规定的情形致使劳动合同无效的；

（六）被依法追究刑事责任的。