Il nome deriva dall'incombente mole di una rupe trachitica che sovrasta l'abitato da breve distanza, alle pendici della vasta formazione di Monte Santo; il picco roccioso, primo titolare del nome Sasso, è chiamato dagli abitanti "Scoglio di Sant'Antonio" o anche "Il Monte" e conserva scarsi resti di murature antiche risalenti al XII secolo
Il borgo, fondato nel 1236, è eretto su una rupe di tufo, e dello stesso periodo è datato il castello alla sua sommità, costruito per ragioni di difesa. Il minuscolo centro storico, costituito da una piazzetta e qualche vicolo, conserva il fascino medievale, sembra quasi di viaggiare nel tempo.