Koufonisia sind ohne Pause seit der Prähistorischen Epoche bewohnt. Ausgrabungen im Ort Epano Myloi haben wichtige Grabfunde aus der ersten Phasen der Kykladenkultur ans Licht gebracht. Der wichtigste Fund war ein Pfanne-förmiges Gefäß mit einem gravierten Stern, das heute im Archäologischen Museum von Naxos ausgestellt ist. In einer weiteren Ausgrabung in der Ostküste wurden Funde aus den hellenistischen und römischen Perioden entdeckt. Die benachbarte Insel Keros , ein wichtiges Zentrum der Kykladenkultur (3000-2000 v.Chr.) ist einen Besuch wert.
In den folgenden Jahrhunderten hatten die Koufonisia das gleiche Schicksal wie alle andere Kykladeninseln, sie wurden von Piraten oft angegriffen. Die türkischen und venezianischen Herrscher wechselten sich ständig. Die Inselbewohner alliierten sich oft mit den Piraten, die die Meerenge zwischen Pano und Kato Koufonisi als sicherer Zuflucht benutzten, entweder aus Not oder aus Wahl.
Im 17.Jh., während der großen Konflikte zwischen den beiden Seemächten der Epoche, der Venezianer und der Osmanen, haben die Inselbewohner verhungert. Sie wurden gezwungen Knollen zu essen, wie z.B. Arten von Lupinen, die auf der Insel wachsen.
Koufonisia wurden von der Besetzung des Osmanischen Reiches nach der Griechischen Revolution von 1821 befreit.