建長元(1241)年、房総三国守護で第六代執権となった北条長時が館を構えたことに始まるという。その子久時、久時の子守時と続き、嘉暦年間に十五代執権で北条得宗家最後の執権となった北条相模守高時が入道して崇鑑と号し、この地に居住したため「相模台」と呼ばれるようになった。
鎌倉陥落後、相模台城も陥ち、延文四(1359)年、足利尊氏の家臣で下野出身の芳賀兵衛入道が在城したが、翌五年には新田義徳に奪われ、その後和睦して一時廃城になった。
永禄七(1538)年の第一次国府台合戦では、国府台城付近に布陣する小弓公方軍に対し、北条氏綱・氏康父子の軍は「松渡の渡し」付近から渡河し、松戸城に布陣した。北東の谷津を挟んだ対岸の相模台城に布陣していた小弓軍先鋒は、義明に渡河中の攻撃を進言するが用いられず、結局相模台城周辺で激戦となり、足利義明は討ち死に、小弓公方は滅亡した。
その後は小金城の支配下となったが、天正十八(1590)年の小田原の役まで城郭として取り立てられていたかどうかは定かではない。