Les Koufonissia, avec Schinoussa, Iraklia, Donoussa et Keros, forment l'archipel des Petites Cyclades, qui a toujours appartenu à la sphère d'influence de Naxos et d'Amorgos. La région est habitée depuis les profondeurs de la préhistoire, avec des traces de présence humaine dès l'époque néolithique.
L'île voisine de Keros fut l'un des centres les plus importants de la civilisation cycladique (3e millénaire av. J.-C.). Sur Keros et l'îlot rocheux voisin de Dhaskalio, on a découvert des centaines d'idoles en marbre cycladiques — parmi elles les célèbres sculptures du Harpiste et du Joueur de flûte, chefs-d'œuvre qui ornent aujourd'hui les grands musées. Des ruines d'un établissement antique et d'époque romaine subsistent également à Kato Koufonissi.
Aux époques byzantine et médiévale, les îles se sont presque entièrement dépeuplées, la piraterie les rendant inhospitalières. Pendant la période de la domination vénitienne et de l'Empire ottoman, elles servaient principalement de pâturages et de refuges pour pêcheurs et pirates, dépendant d'Amorgos et de Naxos.
La colonisation permanente des Koufonissia renaquit au 19e siècle, lorsque des familles de pêcheurs s'installèrent à Ano Koufonissi. L'île devint l'une des communautés de pêcheurs les plus dynamiques de la mer Égée, possédant la plus grande flotte de pêche de Grèce proportionnellement à sa population. Ces dernières décennies, ses plages exotiques en ont fait une destination touristique populaire et jeune, sans qu'elle ne perde son identité authentique.