Im Jahr 1860 gründete der Kaufmann Erhard Junghans gemeinsam mit seinem Schwager Jakob Zeller-Tobler in Schramberg eine Ölmühle, die allerdings wirtschaftlich ein Misserfolg wurde. Im Jahr 1861 gründete Erhard Junghans darauf mit seinem aus den USA zurückgekehrten Bruder Xaver Junghans in Schramberg die Firma Gebrüder Junghans. Zunächst wurden Gehäuseteile für andere Uhrenhersteller im Schwarzwald fabriziert. Ab 1866/67 konnten die ersten Uhrwerke hergestellt werden. Die Tagesproduktion lag im Jahr 1870 bei etwa 60 Uhren.

Erhard Junghans starb im Herbst 1870, worauf die Witwe Luise Junghans die Firmenleitung übernahm. Am 1. Juli 1875 wurde die Firma Junghans von Luise Junghans an die Söhne Erhard d. J. und Arthur verkauft; laut Gesellschaftervertrag übernahm der ältere Sohn Erhard (d. J.) sowohl die kaufmännische wie auch die technische Leitung. In den Jahren nach der Übernahme brachte Arthur Junghans, der vorher für ein Jahr in amerikanischen Uhrenfabriken gearbeitet hatte, eine Reihe von technischen Modernisierungen auf den Weg.[1] Ende der 1870er Jahre nahm die Junghans auch die Fertigung von Weckern nach amerikanischem Vorbild auf, was zu einer starken Vergrößerung des Unternehmens führte.

1888 präsentierte das Unternehmen einen fünfstrahligen Stern mit einem „J“ in dessen Mitte als Markenzeichen. Im Jahr 1890 bekam dieser Stern acht Zacken und ist heute noch das Markenzeichen des Unternehmens.[3] 1903 war Junghans mit mehr als 3000 Beschäftigten und einer Produktion von über drei Millionen Uhren pro Jahr der weltweit größte Uhrenhersteller. Im Jahr 1906 nahm Junghans ferner die Fertigung von Munitionszündern auf, die im Ersten Weltkrieg in Schramberg in großen Mengen hergestellt wurden.