Das Obersteiner Wappen ist nachweisbar seit 1618. Es war ein barocker Wappenschild in Gold mit aufgesetztem Ritterhelm, im Mittelgrund stand ein grüner Baum und darüber eine rote Eichel. Die rechte Seite zeigte einen roten Doppelhaken mit Querbalken, die linke einen roten Ring. 
Die Stadt Oberstein führte dieses Wappen aufgrund einer Verfügung des Großherzoglichen Staatsministeriums in Oldenburg vom 30.08.1906.

Das Wappen der Stadt Idar war ein frühgotischer Schild in Silber mit senkrecht stehendem roten Doppelhaken, dessen obere Spitze sich nach rechts neigte. Rechts und links neben dem Haken befand sich je eine sechsblättrige rote Rose mit goldenem Kelch. Der Schild wurde durch eine Mauerkrone mit geschlossenem Tor bekrönt. Die Mauersteine waren grau, das Tor holzfarben. 
Die Stadt Idar führte dieses Wappen aufgrund einer Verfügung des oldenburgischen Ministeriums des Innern vom 13.02.1923.

Nach der Gründung der Stadt Idar-Oberstein im Jahre 1933 wurden auch die bisher geführten Wappen zu einem gemeinsamen vereinigt. Aus dem Obersteiner Wappen wurden der Doppelhaken mit Querbalken und die Eichel übernommen. Aus dem Idarer Wappen stammen der silberne Grund und die sechsblättrige Rose. Die amtliche Beschreibung lautet:"Im halbrunden silbernen Schild befindet sich ein aufgerichteter roter Forsthaken, begleitet im rechten Obereck von einer sechsblättrigen roten Rose mit goldenem Kelch und grünen Kelchblättern, links unten von einer roten Eichel."Dieses im Einvernehmen mit dem Landesarchiv in Oldenburg für die Stadt Idar-Oberstein entworfene Wappen wurde am 10.07.1934 vom damaligen oldenburgischen Staatsministerium des Innern genehmigt und wird seither im Dienstsiegel der Stadt geführt.