Urodził się 9 grudnia 1928 roku w Amsterdamie. Był graczem Ajaksu w latach 1946-1958. Najchętniej grał na pozycji środkowego napastnika. Rozegrał 269 meczów strzelając dla Ajaksu 121 goli. W lidzie debiutował jako 18-latek, a w swoim pierwszym meczu, 9 czerwca 1946 roku przeciwko ADO Haga, strzelił pięć bramek (Ajax wygrał 8:3). Przepowiadano mu wielką karierę, ale jako piłkarzowi nie udało mu się podbić Europy. Dwukrotnie, w 1947 i 1958 roku zdobywał z amsterdamskim klubem mistrzostwo Holandii. Pięć razy zagrał w reprezentacji Holandii, ale były to lata, kiedy Holendrzy byli chłopcami do bicia. W 1958 roku musiał zakończyć piłkarską karierę z powodu kontuzji.
Kontynuował karierę jako trener. Początkowo opiekował się drużynami amatorskimi. Zaczynał w 1960 roku od prowadzenia małego klubu JOS Amsterdam, kiedy jeszcze nie miał dyplomu trenera. Po czterech latach wrócił do Ajaksu, zdobywając nowe doświadczenia z jego drużyną amatorską. W 1965 roku powierzono mu opiekę nad pierwszym zespołem. I wtedy właśnie zaczął tworzyć zespół, który po kilku latach doprowadził na szczyty europejskiej piłki klubowej. To Michels pierwszy wypatrzył Johana Cruyffa, to on poznał się na Ruudzie Krolu, on wyciągnął Johana Neeskensa i Arie Haana z prowincjonalnych klubów, on nie bał się stawiać na młodych wychowanków Ajaksu. Wymyślił dla swoich podopiecznych niezwykle widowiskowy i ofensywny styl gry, nazwany "futbolem totalnym". Podczas kiedy świat przechodził ewolucję brazylijskiego systemu 4-4-2 na 4-3-3, którego skuteczność dowodził tytuł mistrzów świata zdobyty przez "canarinhos" w Meksyku, Michels jako pierwszy postawił na niespotykaną wcześniej wszechstronność. Niespotykaną, bo wymagającą doskonałego przygotowania kondycyjnego połączonego z brazylijską techniką. Swoim wynalazkiem na stałe wszedł do historii światowego futbolu.
Początki były jednak bardzo trudne. W pierwszym sezonie pod wodzą Michelsa Ajax zajął 13 miejsce i do ostatniej kolejki walczył o utrymanie w Eredivisie. Z każdym rokiem było jednak coraz lepiej. 7 grudnia 1966 roku Ajax pokonał w Pucharze Mistrzów wielki Liverpool 5:1! W 1969 roku klub dociera do finału Pucharu Mistrzów. Bezdyskusyjna porażka z AC Milan sprawiła, że mało kto przewidywał, że ta drużyna będzie najlepsza w Europie i na świecie. W następnych latach na Ajax nie było mocnych a jego rywale nieraz dostawali pokaźny bagaż goli. W 1969 roku Ruch Chorzów przegrał w Amsterdamie 0:7. W sezonie 1971/72 Vitesse Arnhem opuszczało Stadion Olimpijski z wynikiem 1:12!
Cztery razy trenował reprezentację Holandii, zdobywając wicemistrzostwo świata i mistrzostwo Europy. W latach 1980-1984 był trenerem FC Köln. Do dyspozycji miał takich graczy bramkarz Harald Schumacher, Pierre Littbarski, Klaus Fischer, Klaus Allofs, Gerd Strack czy Jugosłowianin Edhem Slijvo. Niestety nie udało mu się zdobyć mistrzostwa RFN, a taki cel stawiali mu szefowie klubu i kibice. W sezonie 1983/84 zespół z Muengersdorferstadion rozczarował swoich sympatyków, zajmując dopiero 6 miejsce w Budeslidze. Trudno zatem było się dziwi frustracji kibiców FC Koeln. Działacze uznali szóste miejsce, chociaż ostatnie dające prawo gry w Pucharze UEFA, za osiągnięcie znacznie poniżej możliwości. W związku z tym z pracą musiał pożegnać się Michels.
Ze względu na zdecydowany styl pracy trenerskiej, a także częste porównywanie piłki do boiskowej wojny, nosił przydomek "Generała". W 1998 roku FIFA wybrała go do Galerii Sław. Rok później FIFA ogłosiła go "trenerem stulecia". Zmarł 3 marca 2005 roku w Aalst
Przebieg kariery trenerskiej:
1960-1964 JOS Amsterdam (klub amatorski)
1964-1965 AFC Amsterdam (klub amatorski)
1965-1971 AFC Ajax
1971-1975 FC Barcelona
27.03-07.07.1974 reprezentacja Holandii
1975-1976 Ajax (dyrektor techniczny)
1976-1978 FC Barcelona
1978-1980 Los Angeles Aztecs
1980-1983 FC Köln
1984-1986 Dyrektor techniczny KNVB
1986-1988 reprezentacja Holandii
1988-1989 Bayer Leverkusen
26.09.1990-22.06.1992 reprezentacja Holandii