Kosterhavets berggrund är ovanligt varierad. Havsbotten har formats av vågor och starka strömmar och består av olika typer av sediment.

Kalspolade bergbottnar är mycket vanligt, i grunda områden men även på större djup till följd av vågor och strömmar. I Kosterfjordens botten löper den spektakulära Kosterrännan med sina kala bergsbranter.

Uråldriga gnejser

Koster och skärgården väster om Kosterfjorden består av uråldriga gnejser. Vanligast är en grå glimmerrik gnejs som bildades för omkring 1,6 miljarder år sedan, och en något yngre rödgrå gnejs med inslag av granit, som ofta kallas gnejsgranit. Stora rörelser i jordskorpan har sedan vid flera tillfällen format om berggrunden. Med tiden har landskapet fått sitt speciella spruckna och veckade utseende.

Kosterrännan

Den mest spektakulära geologiska formationen under ytan i Kosterhavet är Kosterrännan. Detta är en cirka en kilometer bred förkastningsspricka som bildats under åtminstone två tillfällen under den geologiska historien. Första gången för ungefär 920 miljoner år sedan, då Bohusgraniten bildades. Den andra för cirka 250 till 290 miljoner år sedan. Inlandsisarnas rörelse har sedan eroderat fram Kosterrännan som den ser ut idag.

Kosterrännans sidor består mestadels av kala bergsbranter medan botten i den centrala delen innehåller mäktiga sedimentlager av framför allt lera. Ned till berggrunden är Kosterrännan cirka 450 meter djup men med ett sedimentlager på cirka 200 meter så är vattendjupet 247 meter på det djupaste stället idag.

Långa svarta streck

De mörka diabasgångarna är typiska för Kosterskärgården. Det ser ut som att någon doppat en pensel i färg och dragit långa svarta streck tvärs över öar och skär. Man har räknat till närmare 700 sådana gångar i Kosterskärgården. De bildades när diabasmagma från jordens inre trängde upp i sprickor i jordskorpan för omkring 1,4 miljarder år sedan.

Lättvittrad berggrund och bohusgranit

Diabasen är mer lättvitrad än gnejsen och graniten. Det gynnar många växter som trivs i den mineralrika jorden som bildas. Stora områden är täckta av sand och skalkalk.  Det gör också att många speciella arter trivs i Kosterskärgården. Särskilt bra trivs de arter som behöver kalkrika marker.

I kustbandet öster om Kosterfjorden dominerar den mer svårvittrade Bohusgraniten som är betydligt yngre än Kosteröarnas berggrund. Bohusgraniten bildades för cirka 920 miljoner år sedan och är den yngsta bergarten i det svenska urberget. För ungefär 270 miljoner år sedan var den vulkaniska aktiviteten i Osloområdet stor och då trängde magma upp i sprickor i graniten. Idag ser vi spår av detta i form av nordsydligt orienterade gångar av diabas och rombporfyr.