治承四(1180)年の源頼朝挙兵時に戦功のあった、伊豆の土肥実平の子、小早川遠平が小峰山に居を構えたのが始まりといわれるが確かなことは不明。
応永二十三(1416)年の上杉禅秀の乱で土肥氏が失脚後は、駿河の大森頼春に土肥氏の遺領が与えられ、小田原城が大森氏の代々の居城となった。
明応四(1495)年、伊豆韮山城を居城としていた伊勢宗瑞(北条早雲)は小田原城の大森藤頼に対し「小田原周辺で鹿追いをしたい」旨を申し入れ、その承諾を得た。宗瑞は鹿追いを装い韮山を出兵、「火牛の計」という奇策を用いて夜間に小田原城を急襲しこれを奪取、宗瑞は伊豆韮山城を居城とし、弟の弥次郎に小田原城を預けたが、弥次郎は明応五(1496)年七月に山内上杉顕定の逆襲で戦死している。宗瑞は永正九(1512)年八月、三浦道寸入道義同の岡崎城を急襲、義同は相模新井城で抵抗するが永正十三(1516)年七月、新井城は陥落し、道寸は自刃、三浦氏は滅亡し、宗瑞は相模一国を手にした。その後、宗瑞の子・氏綱が小田原城を居城とした。氏綱は伊勢姓から北条へ改姓し、以後氏康・氏政・氏直まで代々小田原城が北条氏の居城となった。
永禄四(1561)年三月には上杉謙信が関東管領就任に際し小田原城を十万といわれる大軍で包囲、小田原城主・北条氏康は籠城策を採り、三月十三日より約一ヶ月の攻囲戦ののち、上杉軍を退けている。また、「甲相駿三国同盟」が破棄された後の永禄十二(1969)年十月一日には武田信玄の三万の軍に囲まれたが、この時も三日間の戦闘の後、信玄は軍を退き、いずれも退けている。この頃、氏康は三ノ丸の外郭工事を行っている。
天正十五(1587)年十二月三日、関白豊臣秀吉は関東・奥州の大名に「惣無事令」を発し、北条氏への圧力を加えると、小田原城主・北条氏政、氏直父子は翌天正十六(1588)年八月に氏規を上洛させ秀吉の臣下となったが、沼田城・名胡桃城の所属を廻って紛糾した。天正十七(1589)年十月、沼田城代・猪俣邦憲による名胡桃城奪取事件が勃発、十一月二十四日、秀吉は北条氏直に対し宣戦布告し、翌天正十八(1590)年三月一日、秀吉も京都を進発し二十七日に沼津に着陣した。この間、北条氏は小田原城周囲に壮大な「惣構え」を構築し、現在の小田原市主要部を包み込む、延長20kmにも及ぶ塁を構えた。北条氏政・氏直父子は小田原城に三ヶ月の籠城を行うが、支城網を陥とされた上、城内にも内通者が続発、六月七日、南方一里に満たない笠懸山に陣城「石垣山一夜城」の築城を受け、七月五日に降伏開城、七月十一日、北条氏政と八王子城主で弟の氏照、重臣の松井田城主・大道寺政繁、松田憲秀の四名が切腹、当主氏直は高野山に蟄居し小田原北条氏は事実上滅亡した。
徳川家康の江戸入封後は規模を三ノ丸周囲に縮小されて大久保忠世・忠隣の居城となったが慶長十九(1614)年、大久保長安事件の波紋と本多氏との確執の中で謀叛の濡れ衣を着せられ改易となり、その後は阿部氏・稲葉氏・ふたたび大久保氏が城主となり廃藩置県を向かえた。北条氏時代の本丸は現在の城址の北西、八幡山にあった。また、元禄十六(1703)年の大地震で天守崩壊などの大きな被害を受けたほか、廃城後の大正十二(1923)年の関東大震災では残っていた石垣が崩壊するなどの大きな被害を受けている。