永久二(1114)年、千葉常兼の子・常康が臼井に居を築き臼井氏を称した。このころの居館がこの臼井城であったかどうかは定かではない。
文明十(1478)年十二月、長尾景春の乱に応じて上杉氏と対立した千葉孝胤を討つため、太田道灌、千葉自胤らは下総国府台城に布陣し、十二月十日に千葉孝胤軍と境根原で激戦となった(境根原合戦)。この合戦で敗北した千葉孝胤らは臼井城に籠城、文明十一(1479)年一月、太田道灌、弟・太田持資、資忠の軍が臼井城を攻めた。道灌は臼井城が容易に落城しないのを見て、千葉自胤に庁南城、真里谷城、海上城などを攻めさせ開城させた。道灌軍は七月五日、臼井城を落城させたが、太田図書資忠ほか五十余名が戦死、千葉自胤は臼井城に城代を置いたがまもなく千葉孝胤に奪還された。
小弓城の足利義明が勢威を増すと、千葉氏、原氏ら一族は古河公方方として小弓公方と対峙したが、臼井城主の臼井景胤は小弓公方に味方した。天文七(1538)年の第一次国府台合戦で足利義明が戦死すると千葉氏に帰参したが、弘治三(1557)年、景胤の死にあたり、遺言により久胤の後見として生実城主・原胤清の子、胤貞が臼井城に入り、実質上原氏の支配下に入った。永禄四(1561)年、臼井久胤のとき、上杉謙信の小田原攻めに呼応した里見勢の上総大多喜城主・正木大膳に攻められ一旦落城し、臼井久胤は結城城の結城晴朝を頼って脱出した。永禄七(1564)年には千葉氏の家老職にあった原胤貞により奪還された。
永禄九(1566)年三月、関東出陣の上杉謙信と里見義堯・義弘父子らが臼井城を攻めた。臼井城には千葉胤富らの援軍が立て籠もり、三月二十日には「実城堀一重」の落城寸前まで追い込んだが、北条氏の加勢である松田孫太郎らの後方攪乱作戦により間一髪で落城を免れる。原氏は本拠・生実城が元亀元(1570)年に里見勢により落城、以後、臼井城が原氏の本拠となる。
天正十八(1590)年の小田原北条討伐戦で徳川の房総別働隊に敗れ、徳川譜代の酒井家次が三万石で入封するが、文禄二(1593)年に城内より出火し灰燼に帰す。その後酒井家次の移封に伴い慶長九(1604)年に廃城。