1、作证主体不合法。我国《民事诉讼法》第七十条规定：“不能正确表达意志的人，不能作证。”因此，无民事行为能力的未成年人、精神病人作为证人提供的证言，不符合法律对证据收集、提供主体的规定，是非法证据。

2、取证程序不合法。以威胁、欺骗、引诱等非法方式收集证据，是不合法的；行政诉讼中，被告向原告和证人收集的证据，因为不具备收集程序的合法性，这种情况下，收集的证据不合法。

3、表现形式不合法。《民事诉讼法》第六十三条及《行政诉讼法》第三十一条作出了证据的7种表现形式，即：书证、物证、证人证言、当事人陈述、视听资料、鉴定结论、勘验笔录、现场笔录。这是从形式上保障证据事实内容的客观性而作出的规定，如不符合以上7种形式，即收集的证据不合法。

4、证据要件不合法。法律要求应当具备特定形式或履行法定手续才能成立的书证，还必须符合特定形式。例如，证明婚姻关系成立的书证，必须是经过婚姻登记机关登记后取得的结婚证。

一、证据材料与证据的区别

(一)含义不同：证据是指用来查明案件真实情况的根据。而凡是未经查证的各种证据形式都称为证据材料。

(二)证据材料只是为了证明目的而提到的各种材料，证据材料要成为诉讼证据，需要经过质证和法庭的审核、认定，只有符合证据条件的证据材料才能作为证据加以使用。“证据”在未经查证属实之前，仅仅是证据材料。

(三)证据材料在诉讼中出现的时间较早，在起诉与答辩时或在法庭审理初期，当事人便向法庭提出各种证据材料，而证据形成于诉讼中较后的阶段，到法庭调查终结或法庭评议阶段，才能确定哪些证据材料可以作为案件的证据。虽然证据和证明材料之间存在着很大的差别，但我国三大诉讼法在使用证据这一概念时均未对它们作出区分，因而在证据这一概念下包含了证据和证据材料两种情形，理论和实践中已习惯于不加区分地使用证据一词。