可以法院起诉要回抚养权，法院会考虑双方的工作性质、工作稳定性、经济状况等以有利于孩子健康成长为原则判决归谁抚养。有下列情况的法院会准予变更抚养权：

1、与子女共同生活的一方因患严重疾病或因伤残无力继续抚养子女的；

2、与子女共同生活的一方不尽抚养义务或有虐待子女行为，或其与子女共同生活对子女身心健康确有不利影响的；

3、十周岁以上未成年子女，愿随另一方生活，该方又有抚养能力的；

4、有其他正当理由需要变更的。

一、如何变更孩子抚养权哪些情况可以变更抚养权

可以由双方协商后签订抚养权变更协议变更抚养权，也可以向法院起诉变更抚养权。

下列情况可以变更抚养权：

1、与子女共同生活的一方因患严重疾病或因伤残无力继续抚养子女的。

2、与子女共同生活的一方不尽抚养义务或有虐待子女行为，或其与子女共同生活对子女身心健康确有不利影响的。

3、10周岁以上未成年子女，愿随另一方生活，该方又有抚养能力的。

4、有其他正当理由需要变更的。一方要求变更子女抚养关系有上述情形之一的，人民法院应予支持。

二、更改孩子抚养权可以吗

有下列情况的，可以申请变更抚养权：

(1)与子女共同生活的一方因患严重疾病或因伤残无力继续抚养子女的。

(2)与子女共同生活的一方不尽抚养义务或有虐待子女行为，或其与子女共同生活对子女身心健康确有不利影响的。

(3)十周岁以上未成年子女，愿随另一方生活，该方又有抚养能力的。

(4)有其他正当理由需要变更的。

(5)父母双方协议变更子女抚养关系的，应予准许。