Heraclia está habitada desde la más remota antigüedad y perteneció siempre a la esfera de influencia de la vecina Naxos. Su nombre se atribuye al héroe Heracles, mientras que las ruinas de la torre helenística sobre Livadi atestiguan una ocupación organizada y fortificación ya desde la época antigua. La Cueva de Ai-Giannis parece que era conocida y objeto de culto desde tiempos antiguos.
Durante la época romana y bizantina, la isla siguió la suerte de las Cícladas circundantes. Tras la Cuarta Cruzada y la caída de Constantinopla (1204), Heraclia se incorporó al Ducado del Egeo de los venecianos, con sede en Naxos.
En la época de la piratería, como la mayoría de las islas pequeñas del Egeo, Heraclia quedó casi completamente desierta: los habitantes abandonaron las costas para escapar de las incursiones. Durante largos períodos la isla permaneció deshabitada, utilizada solo para pastoreo y cultivos por habitantes de Naxos y Amorgos.
La repoblación permanente llegó en el siglo XIX, cuando familias principalmente de Amorgos y Naxos se instalaron en la isla, viviendo de la ganadería, la agricultura y la pesca. Hoy en día Heraclia, con muy pocos residentes permanentes, sigue siendo una de las islas más intactas y auténticas de todas las Cícladas.