Die Ostsee entstand am Ende der letzten Eiszeit, der Weichseleiszeit, vor etwa 12.000 Jahren. Die Bildung des heutigen Brackwassermeeres ging dabei über mehrere Etappen vonstatten. Die Küstengestaltung erfolgte durch ein Zusammenspiel von Landhebung und Meeresspiegelanstieg. Vor 12.000 Jahren war der nordeuropäische Kontinent von riesigen Gletschermassen bedeckt, die sich teilweise bis über Nordostdeutschland ausdehnten. Infolge des damaligen Klimaumschwunges zogen sich die Eismassen in Richtung Skandinavien zurück. Als sich der Eisrand nach Abschmelzen der Inlandeismassen auf der Höhe der heutigen Åland-Inseln, nordöstlich von Stockholm, befand, bildete sich in seinem Vorland der Baltische Eisstausee (vor 12.000 bis 10.200 Jahren). Die nächste Etappe wird als Yoldiameer, vor etwa 10.200 bis 8900 Jahren, bezeichnet. Das Yoldiameer entstand durch starken Wasserspiegelanstieg, der schließlich eine Verbindung zum Weltmeer in der Nähe der mittelschwedischen Seenplatte schuf. Nun erfolgte ein Süßwasserausstrom und ein Salzwassereinstrom. Mit der Zeit hob sich das skandinavische Festland in stärkerem Maße, als der Meerwasserspiegel anstieg. Die Gletscher zogen sich zurück, der Druck auf die skandinavische Landmasse nahm ab, so dass sie sich zu heben begann. So wurde die Seeverbindung wieder blockiert und es entstand der Ancylussee vor etwa 8900 bis 7000 Jahren. Die Großformen der Küsten im südlichen Bereich der Ostsee formten sich durch die Litorina-Transgression vor etwa 7000 bis 2500 Jahren. Diesmal öffnete sich der Zugang in der Nähe der Darßer Schwelle vor der deutschen Küste. Die Festlandbrücke zwischen Südschweden und Dänemark wurde überflutet und der Osten Dänemarks teilte sich in die heutigen Inseln auf. Die Gletscher waren nun fast vollständig verschwunden. Aber das Festland von Skandinavien hob sich anhaltend, so dass sich die Küstenlinie weiter nachhaltig veränderte. Als Ausgleich senkte sich der südliche Bereich der Ostsee. Das vorrückende Meer überflutete die jungglaziale Landschaft und formte sie dabei um. Als Ergebnis findet man drei Küstenformen im südlichen Bereich wieder: Fördenküste (Beispiel: Kieler Förde), Buchtenküste (Beispiel: Lübecker Bucht) und die Bodden- bzw. Boddenausgleichsküste (Beispiel: Halbinsel Fischland-Darß-Zingst).

Zu Deutschland gehören die großen Ostseeinseln Fehmarn, Rügen und Usedom, welches zum Teil zu Polen gehört.

Fehmarn liegt vor der Halbinsel Wagrien an der Lübecker Bucht und ist mit dem Festland über die Fehmarnsundbrücke als Teil der Vogelfluglinie verbunden, und es wird überlegt, diese Insel mit einer weiteren festen Fehmarnbeltquerung als Alternative zur Jütlandlinie zu versehen, so dass das Brücken- und Tunnelnetz auf dem Weg von Mitteleuropa nach Skandinavien komplettiert wäre.

Rügen, die größte deutsche Insel, ist über den Rügendamm – und vermutlich ab Herbst 2007 über eine zweite Strelasundquerung – bei Stralsund mit dem Festland verbunden. Rügen hat einige vorgelagerte Inseln, von denen Hiddensee die bekannteste ist.

Usedom, dessen Ostteil zu Polen gehört, besitzt wie Rügen eine reiche Gliederung in Halbinseln, außerdem existieren dort viele Seen.