Le mot phénicien "phelekgundari" veut dire terre rocheuse et il est une racine probable du nom de Folégandros. Une autre version est que l'île a pris son nom de son premier résident, Folégandros, le fils de Minos, le roi de la Crète. Pendant l'époque des Vénitiens, son nom officiel était "Polykandros".
Après la prise de Constantinople par les Francs en 1204 et la domination des Vénitiens à l'Égée, elle est revendiquée par les Francs et les Turcs, qui ont pris l'île finalement en 1617 avec l'aide de la France.
Folégandros a été sous la domination des Turcs en 1715 et elle a été attachée à Grèce en 1828.
Pendant la période de la dictature d'Ioannis Metaxas, Folégandros devient un lieu d'exile une fois encore après la période romane.