我国的同业拆借始于1984年。1934年以前，我国实行的是高度集中统一的信贷资金管理体制。银行间的资金余缺只能通过行政手段纵向调剂，而不能自由地横向融通。1984年10月，我国针对中国人民银行专门行使中央银行职能，二级银行体制已经形成的新的金融组织格局，对信贷资金管理体制也实行了重大改革，推出了统一计划，划分资金，实贷实存，相互融通的新的信贷资金管理体制，允许各专业银行互相拆借资金。新的信贷资金管理体制实施后不久，各专业银行之间，同一专业银行各分支机构之间即开办了同业拆借业务。不过，由于当时实行严厉的紧缩性货币政策，同业拆借并没有真正广泛地开展起来。1986年1月，国家体改委、中国人民银行在广州召开金融体制改革工作会议，会上正式提出开放和发展同业拆借市场。同年3月国务院颁布的《中华人民共和国银行管理暂行条例》，也对专业银行之间的资金拆借做出了具体规定。此后，同业拆借在全国各地迅速开展起来。1986年5月，武汉市率先建立了只有城市信用社参加的资金拆借小市场，武汉市工商银行、农业银行和人民银行的拆借市场随之相继建立。不久，上海、沈阳、南昌、开封等大中城市都形成了辐射本地区或本经济区的同业拆借市场。到1987年6月底，除西藏外，全国各省、市、自治区都建立了不同形式的拆借市场，初步形成了一个以大中城市为依托的，多层次的，纵横交错的同业拆借网络。

1988年9月，面对社会总供求关系严重失调，储蓄存款严重滑坡，物价涨幅过猛的严峻的宏观经济和金融形势，国家实行了严厉的双紧政策，同业拆借市场的融资规模大幅度下降，某些地区的拆借市场甚至关门歇业。到1992年，宏观经济、金融形势趋于好转，全国各地掀起一轮新的投资热潮。同业拆借市场的交易活动也随之活跃起来，交易数额节节攀升。1993年7月，针对拆借市场违章拆借行为频生，严重扰乱金融秩序的情况，国家开始对拆借市场进行清理，要求各地抓紧收回违章拆借资金，于是，市场交易数额再度萎缩。1995年，为了巩固整顿同业拆借市场的成果，中国人民银行进一步强化了对同业拆借市场的管理，要求跨地区、跨系统的同业拆借必须经过人民银行融资中心办理，不允许非金融机构和个人进入同业拆借市场，从而使同业拆借市场得到了进一步规范和发展。1995年11月中国人民银行发出通知，要求商业银行在1996年4月1日前撤销其所办的拆借市场。这一措施为建立全国统一的同业拆借市场奠定了坚实的基础。1996年1月3日，经过中国人民银行长时间的筹备，全国统一的银行间同业拆借市场正式建立。

但从实际运行情况看，仍然存在一些问题。由于受多种因素的影响，金融领域存在较大的金融风险，国有企业不良资产比重高，非银行金融机构遗留的问题多;加上货币市场发育不完善，拆借风险比较容易转移到融资中心上，一些正常借贷资金到期难以回收，出现了逾期债权债务。因此，1998年，中国人民银行开始着手撤销融资中心机构，清理拖欠拆借资金。