築城時期は定かではないが、関東管領家、山内上杉氏の重臣であった長尾景仲の築城といわれる。長尾景信の死後、管領家家宰職の相続をめぐり家督争いが勃発、長尾景春が鉢形城を築いて立て籠もった(長尾景春の乱)。白井城は山内上杉の重要拠点として機能した。長尾景春と同盟する古河公方・足利成氏によって攻められもした。
天文十五(1546)年の河越夜戦で上杉家の勢力が衰退し北条氏が侵攻してくると、山内上杉憲政は天文二十一(1552)年、平井城を捨て越後に亡命、以後、永禄三(1560)年以降、白井城は上杉謙信の関東出陣の際の基地の一つとなった。永禄十二(1569)年、甲相駿三国同盟が崩れると北条氏康は上杉謙信と同盟した。武田信玄は上州へ侵攻、永禄十三(1570)年には岩櫃城の真田幸隆が白井城の長尾憲景を攻め一時開城させた。元亀二(1571)年、北条氏康の死後、氏政により甲相同盟が復活すると翌年、ふたたび真田幸隆が侵攻し白井城は武田の属城となった。
天正元(1573)年、信玄の死後は白井長尾氏は上杉氏−北条氏−滝川(織田信長属将)氏−北条氏と主を変えた。
天正十八(1590)年の小田原の役では北関東防衛の要衝とされたが、4月下旬、上州松井田城を攻略した前田・上杉氏らの北方軍軍勢が白井城に攻めかかり、北郭を占領、長尾政景(憲景の子)は、5月15日、開城した。家康の関東入封後は、徳川譜代の本多氏が入城する。元和九(1623)年、廃城。