Historia marki rozpoczęła się w głowach przyjaciół – Williama Harleya i Arthura Davidsona w 1903 roku, kiedy ich próba zainstalowania silnika spalinowego w ramie roweru zakończyła się sukcesem. Nie było to ówcześnie bardzo nowatorskie rozwiązanie, jednak jak się okazało, wystarczające, aby dać początek wspaniałej firmie.
William Harley już w wieku 15 lat zasilił szeregi fabryki rowerów. 6 lat później wraz ze swoim przyjacielem, Arthurem Davidsonem zatrudnili się w zakładach metalurgicznych. Ich przyjaźń rozkwitała dzięki wspólnym zainteresowaniom. Podczas jednej z wypraw wędkarskich, w głowach młodzieńców narodził się pomysł stworzenia własnego pojazdu, dzięki któremu mogliby szybciej docierać do różnych łowisk. Jako, że w danym momencie motocyklizm dopiero kiełkował, panowie postanowili poświęcić się nieco bardziej na realizację pomysłu.
Według legendy, gaźnik pierwszego silnika spalinowego Harley-Davidson, powstałego na przełomie 1901 i 1902 roku, został wykonany z puszki po pomidorach, a świeca zapłonowa miała wielkość klamki od drzwi. Za projekt odpowiadał Harley, a Davidson opracowywał formy. Choć prototypowy silnik nie miał zbytnio mocy, a olej z niego wyciekał – działał, co napędziło duet do dalszego działania.
Pod koniec roku 1903, wraz z pomocą pozostałych bracia Davidson – Williama i Waltera udało się stworzyć pierwszy działający z pomocą silnika jednocylindrowego motocykl, który rozpoczął ich dalszą przygodę. Na terenie posiadłości Davidsonów powstała pierwsza mini fabryka, a na jej drzwiach umieszczono napis „Harley-Davidson Motor Co.”. Pierwsze 3 egzemplarze zostały sprzedane za 200 dolarów Rok później panowie musieli powiększyć swój warsztat dwukrotnie. W 1904 roku wyjechało stamtąd 8 motocykli pod nazwą Model 0, w 1905 16 pod nazwą Model 1. W 1906 r. powstała nowa siedziba firmy, do której zatrudniono 6 pracowników. Tego roku, w fabryce stworzono Model 2, napędzany silnikiem jednocylindrowym o pojemności 440 cm³. Po raz pierwszy również, oprócz czarnych modeli, zaczęły powstawać szare, które zyskały pseudonim „Cichy szary koleżka” (Silent Gray Fellow).
Sześć lat po pamiętnej wyprawie na ryby, zakład wyprodukował 1122 motocykle Modelu 5 i tym samym stał się jednym z poważniejszych kandydatów na amerykańskim rynku motoryzacyjnym. Kolejne modele były praktycznie niezmienione. Pierwszy dwucylindrowy motocykl Harley-Davidson napędzany był silnikiem o pojemności 820 cm³. To w Modelu 5-Dzostały umieszczone rozpoznawane cylindry rozchylone pod kątem 45°, które na długi czas stały się znakiem rozpoznawczym marki.
