平安時代に平将門が砦を築いたという伝承があるというが定かではない。
永享年間(1429-41)に小田城の小田氏の被官、今泉三郎が築城したのが始まりといわれる。永正十三1516）年、土浦城主の若泉五郎左衛門は小田氏の部将・菅谷（すがのや）勝貞に攻め取られ、一時小田氏家臣の信太範貞が城主となり、のちに再び菅谷勝貞が城主となった。菅谷勝貞は第十四代小田城主の小田政治、その子氏治を援け、勝貞の子政貞、その子範貞の時代にも小田氏の勢力が次第に縮小する中、小田氏をよく支えた。
弘治二年(1556)、北条氏康は下総結城城の結城政勝の援軍として江戸城代の遠山・富永、岩槻城の太田資正らを結城城に派遣、関宿城の簗田氏や下野の壬生氏、那須氏、奥州白河結城氏らが結城連合軍に加わって、海老ヶ島城を攻撃したのを契機に小田氏治が出陣、山王堂付近で激突したが結城連合軍が優勢で、氏治は敗走し、小田城も陥とされ土浦城まで撤退した（第一次山王堂合戦）。翌年勢力を盛り返し小田城を奪還した。
謙信の関東出陣後はこれに従い転戦したが、小田氏治はその後、北条氏の調略に応じて謙信に叛いた。永禄七（1564）年、上州厩橋城に駐屯していた謙信は寝返った氏治を討つべく山王堂付近に進軍、越後・佐竹連合軍との間に合戦となり、氏治は再び敗走し小田城に籠城したがこれも陥とされ、土浦城に退いた（第二次山王堂合戦）。この時も翌年、小田城を奪還している。
永禄十二（1569）年、北条によって岩槻城を追われ片野城で対立する佐竹義重に庇護されていた、太田三楽斎資正と梶原政景親子を攻めるべく軍を進めたが、資正親子は真壁城の真壁氏幹らの援軍を得て筑波山麓の手這坂でこれを打ち破り、またしても氏治は小田城を追われ、土浦城に敗走、その後復帰することはなかった（手這坂合戦）。天正元年（1573）には菅谷政貞は小田氏への謀反の罪で木田余城主の信太範宗を誅殺したという。菅谷政貞・範政父子は木田余城に小田氏治を匿い佐竹氏・多賀谷氏の攻撃を防いだが、木田余城は天正六（1578）年に落城、佐竹氏によって破却され、土浦城もたびたび攻撃を受け、天正十一（1581）年、小田氏治は土浦城で佐竹氏に降伏した。
天正十八（1590）年の小田原の役で豊臣軍に参陣しなかった菅谷範政は土浦城を出て真壁郡高津村で蟄居、土浦城は結城城主で家康次男の結城秀康の支配下となった。範政はのちに徳川氏の旗本に取り立てられ筑波郡手子生五千石を与えられている。
慶長六（1601）年、結城秀康が越前福井城に移ると土浦城には松平信一が三万五千石で入城、笠間城の松平康重とともに水戸城の佐竹義宣の監視にあたったが、佐竹氏は慶長七（1602）年秋田に移封となり、信一の子信吉の時代には四万石に加増された。元和三（1617）年、信吉は上野高崎城へ移封となり、翌元和四（1618）年八月には西尾忠永が上野白井城より入封、子の忠照の時には東西の物見櫓を建造した。慶安二（1649）年、西尾忠照が駿河田中城に移封され、朽木稙綱が下野鹿沼城から三万石で入封、大手門を太鼓櫓に改造した。その後、土屋氏二代、松平氏と城主が代わり、貞享四（1687）年に土屋政直が六万五千石で入封、その後加増されて九万五千石を領した。土屋氏十代の挙直の時に版籍奉還、廃藩置県となり土浦城は廃城となった。なお廃城後の明治十七（1884）年の火災によって、本丸の建物の大部分が焼失、西櫓、太鼓門、霞門だけが残ったという。
