Obermarsberg zählt zu den ältesten, dauerhaft besiedelten Orten des Hochsauerlandkreises. Im Jahre 772 eroberte Karl der Große zu Beginn des Sachsenfeldzug die Eresburg, die größte sächsische Volksburg, und zerstörte anschließend die Irminsul, eine Kultstätte der Sachsen. Auch weiterhin war der Berg, bedingt durch die günstige topografische Lage, hart umkämpft. Die Eresburg wurde mehrfach von Karl dem Großen erobert, von den Sachsen zurückgewonnen, blieb aber schließlich doch in der Hand des Frankenkönigs, der den Fuldaer Abt Sturmi 779 mit der Missionstätigkeit in diesem Raum betraute. 784/85 überwinterte Karl der Große in Obermarsberg und ließ an der Stelle einer schon früher errichteten hölzernen Kirche eine königliche Peterskirche, eine Basilika - vermutlich im Nordosten des Burgbezirkes – errichten und gründete das Benediktinerkloster Obermarsberg.
Um den 1. August (Petri Kettenfeier) des Jahres 799 dürfte Papst Leo III. auf seinem Weg von Rom nach Paderborn auch in Marsberg gewesen sein. Hieran erinnert das Patrozinium der Stiftskirche. Ludwig der Fromme, Sohn und Nachfolger Karls, berichtet 826 von einer Kapelle, die sein Vater als „castelo Heresburg" hatte bauen lassen und weist diese mit ihrem ausgedehnten Besitz dem von ihm 822 gegründeten Kloster Corvey zu. 826 schenkt Ludwig der Fromme den Stift Eresberg mit allen Besitzungen dem neu gegründeten Benediktiner Kloster Corvey. 915 ist die "urbs" auf dem Eresberg als Stützpunkt belegt, obwohl in dieser Zeit wohl kaum von einer Stadt die Rede sein kann.
Im Jahre 938 wird ein "castellum" erwähnt, in das der aufständische Thankmar vor Otto I. floh und dort am Altar der Peterskirche ermordet wurde. Im Jahre 1115 eroberte Friedrich von Arnsberg die Burg. 1145 wurde die Festung von Volkwin von Schwalenberg im Auftrag des Klosters Corvey belagert und zerstört. Unter Abt Thetmar von Corvey (1205-1216) begann das Kloster mit Festungsarbeiten auf dem Eresberg. Auch der Kölner Erzbischof, dem die Burg schon lange ein Dorn im Auge war, versuchte gegen Anfang des Jahrhunderts hier einen Stützpunkt zu schaffen. Corvey wagte es nicht inmitten der Thronstreitfehden den nach besserem Ortsschutz strebenden Bürgern für den Bau der Burg freie Hand zu geben. So kam es zu Hinwendung der Bürger an das Kölner Erzbistum. Der Kölner Erzbischof Engelbert vom Berg (1216-1225) griff in den Streit ein. Er gilt als Gründer der Stadt Obermarsberg. Die Umsiedlung eines großen Teils der Horhusener Bürger auf dem Berg führte dazu, dass diese auch alle bisherigen Privilegien mitbrachten. Seit 1222 gibt es ein Bürgergericht und eine städtische Verfassung ist urkundlich bezeugt. Die Nikolaikirche wird durch sie errichtet. Die Horhusener Münze, bis etwa 1225 noch im heutigen Niedermarsberg, siedelte mit zur Oberstadt.
Es kam zur Teilung der Stadt zwischen Corvey und Köln. Zukünftige Bauten sollten bei beiderseitigem Verzicht auf den Bau von Burgen, auf gemeinsame Kosten errichtet werden. Die Stadt entwickelte sich. 1231 gibt es ein Stadtsiegel und 1241 ein Gildehaus. Um 1250 begann die Erweiterung der Stadt nach Südosten und die Bredelarer Mönche errichteten den Mönchhof. Nach und nach konnte man einen Rückgang des Corveyer Einflusses bemerken. Bereits 1322 wird die Stadtburg als eine Burg des Kölner Erzbischofs genannt, die von ihm neu erbaut worden sei. 1327 bestätigt der Erzbischof von Köln der Stadt alle Freiheiten, insbesondere auch das "heimliche Gericht“. Das gesamte Bergareal dürfte im 14. Jahrhundert überbaut gewesen sein und etwa 1500 Einwohner gezählt haben. Die Stadt war befestigt und größtenteils von einer starken, mit 7 Türmen bewehrten Mauer umgeben. Zwei Tore schlossen die Stadt ab. Die Obermarsberger waren stolz auf ihre Marktprivilegien. Jährlich wurden Jahrmärkte abgehalten. Zum Ende des dreißigjährigen Krieges zog die kölnische Besatzung Obermarsbergs immer wieder marodierend und brandschatzend durch die angrenzenden Gebiete der Landgräfin Amalie von Hessen. Auf ihre Bitte hin wurde Obermarsberg mit Hilfe durchziehender schwedischer Truppen mehrmals angegriffen, erobert und durch die Bürger wieder aufgebaut. 1646 wird die Stadt und die Stiftskirche zerstört.
Dank ihrer außerordentlichen Sehenswürdigkeiten, ihrer Tradition und der großartigen Aussicht ist Obermarsberg heute ein gern besuchter Ausflugsort.