El nombre de Folégandros se atribuye por la mitología a un hijo del rey de Creta Minos, Folégandros, considerado el primer colonizador de la isla; otra versión relaciona el nombre con la palabra fenicia para el terreno rocoso y pedregoso. Los vestigios de habitación se remontan a la época prehistórica, y el paisaje salvaje y fortificado marcó desde temprano el destino de la isla.
En la antigüedad Folégandros fue habitada por dorios y más tarde se incorporó a la esfera de influencia ateniense. Debido a su aislamiento y aspereza, los romanos la utilizaron como lugar de exilio — un uso que se repetiría en épocas más recientes. En Chrysospilia, inscripciones antiguas atestiguan actividad religiosa ya desde la época clásica.
En la época bizantina y medieval la isla sufrió las incursiones de los piratas. Tras la Cuarta Cruzada, en 1207, pasó a los venecianos y se integró en el Ducado del Egeo de Marco Sanudo; entonces se fortificó el núcleo del Kastro al borde del acantilado, con las casas formando un muro continuo para protección.
En 1566 Folégandros pasó al Imperio Otomano, siguiendo sometida a incursiones piratas hasta el siglo XVIII. Se incorporó al estado griego tras la Revolución de 1821, y en el siglo XX volvió a utilizarse como lugar de exilio. Gracias al turismo comedido y suave de las últimas décadas, la isla ha conservado intacto su carácter auténtico y sereno.