Den alvarmark och det tunna jordtäcket som kännetecknar stora delar av Stora Karlsö gör att torktåliga och ljuskrävande växter gynnas, bland annat orkidéerna Adam och Eva (Dactylorhiza latifolia) och S:t Pers nycklar (Orchis mascula). I slutet av maj och början av juni bildar tusentals blommande orkidéer vidunderliga orkidéängar! Andra orkidéer som hittas här är bland andra den lilla krutbrännaren (Neotinea ustulata), grönvit nattviol (Platanthera chlorantha) och tvåblad (Neottia ovata).

På alvarmarken trivs gul fetknopp (Sedum acre) och vit fetknopp (Sedum album), men också den väldoftande kryddväxten backtimjan (Thymus serpyllum) som beklär marken med röda, små mattor från juni till augusti.

Öns vanligaste växt är fårsvingel (Festuca ovina). I klippkanternas rasbranter finns lummiga lövskogsremsor med rik växtlighet av blommande örter. I april-maj dominerar svalört, sippor och nunneörter. Senare under sommaren är spenört, hundkex och skogsbingel vanliga, liksom stor kustruta (Thalictrum minus kochii) och brudbröd (Filipendula vulgaris). Brudbrödets rötter användes förr i tiden av den nygifta bruden till det bröd som hon bjöd sin man på eftersom mjölet av dessa rötter ansågs ha en stärkande inverkan på kärlekslivet.

En mycket karaktäristisk växt för magra kalkmarker är tulkörten (Vincetoxicum hirundinaria). Så länge växten är grön är den giftig, varför såväl harar som får ratar den. I fårbetade marker framträder den som mörkgröna ruggar eftersom de omgivande växterna betas ner. Tulkörten har förr använts som motmedel mot giftiga djurbett och därav fått namnet vincetoxicum = motgift.

En i matlagning och folkmedicin mycket användbar växt är kungsmynta (Oreganum vulgare), nära släkt med mejram och pizzakryddan oregano.

Den tidiga vårens vackraste blomma, vid sidan av orkidéängarna, är säkert våradonisen (Adonis vernalis) eller ”torskblomme” som den kallas av gotlänningarna för att dess tidiga blomning i april-maj sammanföll med torskfisket. Öns rika flora innehåller andra sällsynta arter som till exempel karlsösallat, gullborste, tovsippa, alvarveronika, hylsnejlika och dvärgviol.