Los orígenes de este pueblo se remontan a cuando los griegos colonizaron el valle de Basento entre los siglos V y VI antes de Cristo que llevó a la fundación de un centro urbano llamado Maudoro, o "mundo de oro". En el siglo X, debido a las invasiones sarracenas, los habitantes se trasladaron a lo que hoy conocemos como Castelmezzano.
Fue ocupado por los lombardos y luego por los normandos, que construyeron un castillo llamado "Castrum Medianum", que significa "castillo del medio". Fue llamado así porque fue construido entre los castillos de Pietrapertosae Albano, de donde deriva el nombre original de la ciudad.
Castelmezzano, dominado también por los angevinos, conoció períodos difíciles y en 1310, fue adquirido por la diócesis de Potenza y luego por la de Acerenza. Los aragoneses lo conquistaron entre los siglos XIV y XVI y dieron a muchos terratenientes, partes de la ciudad como feudo.
Fue gobernado por la familia De Leonardis durante aproximadamente un siglo a partir de 1500. En el siglo XIX, cuando estaba bajo el dominio de la familia De Lerma, fue víctima de la plaga del bandidaje y a finales de siglo muchos se trasladaron al extranjero.