在神话中，赫拉克勒斯击败的巨人屍体就埋葬在米科诺斯岛及其它小岛屿底下。岛名似乎来源于岩丘或岩地的古语。后期神话把岛屿与提洛国王阿尼奥斯的儿子英雄米科诺斯联系在一起。
本岛最初由卡里亚和腓尼基人居住，但公元前一千年左右则由爱奥尼亚人治理。古代资料提到过岛上的两个城市是Daetes和Artaphernes的降落处，还说这是一个相当贫瘠的小岛。米科诺斯供奉的神明主要有酒神、得墨忒耳、宙斯、阿波罗、波塞冬和赫拉克勒斯。
米科诺斯岛历经罗马统治，随后是拜占庭统治。公元七世纪期间，为防御阿拉伯海盗袭击，岛上的防御工事逐渐落成。
第四次十字军东征后，米科诺斯岛在1204年被割让给Andreas和Ieremias Gyzis。 1292年，本岛被加泰罗尼亚人洗劫一空，控制权间接落到了威尼斯人手中，并将之作为蒂诺斯岛的一部分加以管理。在威尼斯统治期间，该岛又再次被苏莱曼大帝的军事将领巴巴罗萨掠夺。
随后米科诺斯岛被纳入奥斯曼帝国统治，由奥斯曼Capudan Pasha舰队的领导治理，但是在威尼斯与土耳其双方高层都不愿意发生冲突的情况下，岛屿几乎成为自治状态。
如不成文规定般，岛屿人口数量在近代长期在两千至五千人之间波动。但在十八世纪末及十九世纪初，来自克里特岛、纳索斯岛，福莱甘兹罗斯岛、斯基诺斯岛、基莫洛斯岛的难民为躲避流行病或暴动而迁入岛上，人口曾膨胀增长。米科诺斯岛曾是外国商船一个重要的补给站。岛上居民在早期尝试过海盗活动后，逐渐将重心转向了海上活动及商业贸易。
在1821年独立革命期间，在出生于贵族家庭，成长于里雅斯特，并接受启蒙主义思想的大家闺秀Manto Mavrogenous的带领下，岛上居民击退了土耳其舰队的侵略，并参加了随后的独立战争。
随着现代希腊的建立，米科诺斯岛上出现了具有活力的城市和阶层，并与南俄罗斯、意大利、法国、亚历山大、小亚细亚、君士坦丁堡等地区往来频繁，成为锡罗斯岛群的新兴中心。
十九世纪末，由于蒸汽引擎广泛应用和1904年科林斯运河的开通，米科诺斯的核心地位大幅降低，许多岛民也因此往外迁移。许多居民移居国外，在第一次世界大战前主要移民俄罗斯，之后则大多移民美国，或迁至希腊国内大城市，诸如雅典和比雷埃夫斯。
提洛岛的考古发掘始于1873年，由法国考古学校自愿前往希腊的精英义工开展。自二十世纪30年代起，富商名流开始访问本岛，除了提洛岛的考古成果外，他们也见识到了米科诺斯岛上的惊艳之处。第二次世界大战结束后，岛上的旅游业蓬勃发展，直至今日它已跃升为世界顶级旅游景点之一。