享徳三（1454）年に勃発した関東公方・足利成氏と関東管領・上杉氏の対立（享徳の大乱）で鎌倉を追われ翌康正元（1455）年に古河に動座し古河公方を称した足利成氏が、その家臣の金田式部則綱に命じて築城させた。隣接の騎西城等とともに、上杉氏に対する防衛網として整備された。城の竣工が五月五日の菖蒲の節句に当たった為に命名されたといわれる。
大永五（1525）年3月上旬には北条氏綱が扇谷上杉朝興と戦っている。
天正二（1574）年の第三次関宿合戦では、簗田持助を助けて利根川で北条氏政と対陣した上杉謙信が、騎西城・菖蒲城などの城下を焼き討ちしている。
天正十八（1590）年の小田原の役後廃城となり、以降は徳川譜代の内藤氏が栢間に陣屋を構えて5700石を知行した。
