不一定，也可以在女方一边。1、要求结婚登记的男女双方持所需证件到一方常住户口的区、县民政局（或镇人民政府）婚姻登记机关提出申请。2、双方亲自到婚姻登记机关提出申请，各填写《婚姻登记申请声明书》。3、双方必须亲自在《婚姻登记申请声明书》中的声明人一栏签字或按指印在婚姻登记员面前。4、婚姻登记机关应当审查双方提交的证件和声明，符合婚姻登记条件的，准予登记。

结婚证户口本被男方扣留了可以起诉离婚吗

可以诉讼离婚，到当初办理结婚登记的婚姻登记处开具结婚登记证明，到户籍地派出所开具户籍证明。根据相关法律规定，夫妻一方要求离婚的，可以由有关组织进行调解或者直接向人民法院提起离婚诉讼，调解无效的，应当准予离婚。

《婚姻登记条例》第四条内地居民结婚，男女双方应当共同到一方当事人常住户口所在地的婚姻登记机关办理结婚登记。

中国公民同外国人在中国内地结婚的，内地居民同香港居民、澳门居民、台湾居民、华侨在中国内地结婚的，男女双方应当共同到内地居民常住户口所在地的婚姻登记机关办理结婚登记。