Situado num cabeço rochoso, está integrado entre uma paisagem rural e urbana com a torre de menagem isolada sobre grandes rochas de granito. A sua fundação remonta à reconstrução (no reinado de D. Sancho) da grandiosa fortaleza de Penamacor, situada sobre vestígios castrejos. Depois, com D. Dinis ergueram-se torres e extensas muralhas, que cingiram a vila, enquanto com D. Fernando e com D. João I procederam-se a novas obras nas muralhas, em virtude das inovações artilheiras. Já no século XVI, D. Manuel adiciona-lhe a torre de vigia e, mais tarde, durante a Guerra da Restauração realizou-se o acrescento de novas muralhas, seis baluartes e três meio-baluartes. Neste século foi também construída a Casa da Câmara, integrada na porta de acesso à vila. Esta porta, juntamente com a imponente Torre de Menagem e algumas partes dos antigos baluartes seiscentistas são tudo o que restam daquele que já foi um dos mais poderosos castelos beirões. (Monumento Nacional)
Estado de conservação: Bom