Der Name von Folegandros wird der Mythologie zufolge auf einen Sohn des kretischen Königs Minos zurückgeführt, Folegandros, der als erster Siedler der Insel galt; eine andere Version verbindet den Namen mit dem phönizischen Wort für felsigen, steinigen Boden. Spuren der Besiedlung reichen bis in die prähistorische Zeit zurück, während die wilde, unwegsame Landschaft früh das Schicksal der Insel prägte.
In der Antike wurde Folegandros von Dorern besiedelt und geriet später unter athenischen Einfluss. Wegen ihrer Abgeschiedenheit und Rauheit nutzten die Römer sie als Verbannungsort — eine Verwendung, die auch in neuerer Zeit wieder auftrat. In der Chrysospilia bezeugen antike Inschriften bereits aus klassischer Zeit kultische Aktivität.
In byzantinischer und mittelalterlicher Zeit litt die Insel unter Piratenüberfällen. Nach dem Vierten Kreuzzug fiel sie 1207 an die Venezianer und wurde in das Herzogtum der Ägäis von Marco Sanudo eingegliedert; damals wurde die Siedlung des Kastro am Rand der Klippe befestigt, wobei die Häuser eine durchgehende Schutzmauer bildeten.
1566 fiel Folegandros an das Osmanische Reich und wurde bis ins 18. Jahrhundert weiterhin von Piratenüberfällen heimgesucht. Nach der Revolution von 1821 wurde sie in den griechischen Staat eingegliedert, während sie im 20. Jahrhundert erneut als Verbannungsort diente. Dank des maßvollen, sanften Tourismus der letzten Jahrzehnte hat die Insel ihren authentischen, ruhigen Charakter unversehrt bewahrt.