Rimljani su još u prvom veku naše ere podigli utvrđenje sa obe strane Dunava na mestu današnjeg Golupca. Utvrđenje se zvalo Vikus Kupe i izgrađeno je da štiti severne grynice carstva.
Kasnije kroz istoriju, ovo utvrđenje je stradalo u sukobima između Vizantije, Srba, Bugara i Mađara i bilo je toliko porušeno da nije vredelo da se obnavlja. Tako je srednjovekovni Golubački grad je podignut na brežuljku 4km nizvodno od današnjeg naselja. Do sada nije utvrđeno ko ga je podigao – Vizantinci, Mađari ili Srbi.
Kao i mnogi drugi gradovi, i Golubac ima svoje legende o nastanku imena. Najpopularnija je legenda o lepoj princezi Glubini koja je odbila udvaranje turskog paše. Paša se razbesneo i naredio da se veže za pustu stenu koja je virile iz vode preko puta grada da se pokaje. Golubina je izdahnula na toj steni. Ta stena se zove Baba kaj, što u prevodu sa turskog znači pokaj se. Stena je na tom mestu postojala do izgradnje Đerdapske brane, kada je potpoljena.
Prema drugoj legendi, na ovom prostoru bilo je mnogo golubova. Golub je symbol grada i nalazi se in a grub opštine. Još jedna legenda vezana za golubove kaže da je u Šešir kuli bila zatočena vizantijska princeza Jelena, koja je zbog tuge i samoće gajila golubove i da je po golubu grad dobio ime.
Pretpostavlja se da je grad u vreme Kosovske bitke pripada Srbima, a nakon toga Turcima. Krajem 17. i početkom 18. veka pripadao je Austrijancima, a nakon toga, a sve do 1867. godine bio je pod vlašću Turaka.
Golubački grad je strateški izuzetno značajan, ima nepravilnu osnovu i bedeme koji prate konfiguraciju terena. Kako bi odbrana bila efikasnija, grad je unutar bedema pregrađen i podeljen na nekoliko celina, a devet masivnih kula međusobno je povezano bedemom i raspoređeno tako da se grad može braniti i sa kopna i sa vode.
Sa izgradnjom brane Đerdap potopljen je deo tvrđave.
Danas ova tvrđava predstavlja turističku atrakciju sa bogatom kulturom i tradicijom.
