Koufonisia fueron habitadas constamente desde la época prehistórica. Excavaciones que se han hecho en la zona Epano Myloi sacaron a luz hallazgos de entierros significativos de la primera etapa de la Civilización Cíclada. El más importante de estos, un recipiente con forma de sartén con una estrella grabada, se guarda actualmente en el Museo de Naxos. Una segunda excavación en la punta meridional de la costa oriental ha revelado hallazgos de tiempos helenísticos y romanos. Igualmente la comunidad Keros, la que merece ser visitada, constituyó centro significativo de la Civilización Cíclada (3000-2000 a.C.).
Durante los siguientes siglos Koufonisia fueron subyugadas al destino común de casi todas las islas cícladas, fue manzana de la discordia para diversos piratas. Cambiaron muchas veces de dominio entre los turcos y las familias de la nobleza latina. Los habitantes de Koufonisia, otras veces por obligación y otras por opción se aliaron con maniatas u otros piratas, los que utilizaban el estrecho entre el Pano y Kato Koufonisi como un refugio de seguridad.
En el siglo XVII, durante los grandes conflictos entre los dos poderes marítimos de la época, Venecia y Turquía, los habitantes de Koufonisia se encontraron aislados y sufriendo al hambre. Fueron obligados a comer cada tipo de bulbo que crecía en su isla infértil, y llegaron a comer hasta los altramuces que se utilizaba como alimento para el ganado. Un dístico de aquella época fue salvada por Manolis Glezos “Mantenga pobre altramuce, si eres hombre, porque el pobre bulbo ni estuvo ni apareció”.
Las islas de Koufonisia fueron liberadas, junto a las demás Cícladas, tras la Revolución del 1821.