Финикийское слово "phelekgundari" означает «каменистый», и возможно, именно от него произошло название Фолегандроса. По другой версии топоним происходит от имени первого поселенца острова – Фолегандроса, сына критского царя Миноса. Во время венецианского господства остров официально назывался Поликандрос.
После захвата Константинополя крестоносцами в 1204 г. и установления власти венецианцев в Эгейском регионе Фолегандрос становится предметом споров между франками и турками. Последние с помощью французов окончательно подчиняют себе остров в 1617 г.
Под властью османов Фолегандрос находился до 1715 г., а в состав Греции остров вошел в 1828 г.
В годы диктатуры Метаксаса Фолегандросу была отведена та же роль, что и в римский период: остров использовался как место ссылки.