可以口头提起行政诉讼。《中华人民共和国行政诉讼法》第五十条规定，起诉应当向人民法院递交起诉状，并按照被告人数提出副本。书写起诉状确有困难的，可以口头起诉，由人民法院记入笔录，出具注明日期的书面凭证，并告知对方当事人。

《中华人民共和国行政诉讼法》第四十九条

提起诉讼应当符合下列条件：

（一）原告是符合本法第二十五条规定的公民、法人或者其他组织；

（二）有明确的被告；

（三）有具体的诉讼请求和事实根据；

（四）属于人民法院受案范围和受诉人民法院管辖。

第五十条

起诉应当向人民法院递交起诉状，并按照被告人数提出副本。书写起诉状确有困难的，可以口头起诉，由人民法院记入笔录，出具注明日期的书面凭证，并告知对方当事人。