Encerrou sua carreira de jogador no Carioca de 1985, pelo Goytacaz, e logo em seguida já iniciou uma nova função na carreira, como auxiliar-técnico de Jorge Vieira no Botafogo. No mesmo ano, teve seu primeiro desafio como treinador, e fora do país, assumindo o comando do Rio Ave, de Portugal. Após voltar ao Brasil e treinar alguns clubes, entre eles o Internacional, voltou à “Terrinha” para levar o Famalicão de volta à elite nacional. Após esse desafio, se encontrou novamente na condição de fazer com que um time voltasse à primeira divisão de Portugal. Dessa vez, o Belenenses. E conseguiu. Com os resultados, obteve uma grande notoriedade em Portugal. Voltou ao Brasil e teve um grande destaque em Curitiba (PR), onde treinou os três grandes clubes do estado de forma consecutiva. Em 2000, após treinar o Vasco, seguiu para a França para ser o treinador do Olympique de Marseille. De volta ao Rio, treinou Flamengo e Fluminense em 2004 e 2005, respectivamente, e conseguiu o título estadual desses anos e chegou à final da Copa do Brasil seguidamente. Em 2006, teve o seu auge como treinador, com as conquistas da Taça Libertadores e do Mundial de Clubes com o Internacional. No comando do Al-Jazira, dos Emirados Árabes, conquistou campeonatos e chegou a ser cotado para assumir o comando da seleção local. Porém, em 2011, preferiu voltar ao Brasil para assumir o Fluminense, que o esperou durante três meses. Em 2012, após conquistar o Campeonato Carioca, ganhou o seu primeiro título do Campeonato Brasileiro. Na sequência, teve nova passagem por Internacional e Al-Jazira, antes de voltar ao Fluminense, no final de 2016. No Tricolor ficou até junho de 2018. No final do mesmo ano, foi anunciado como novo técnico do Flamengo, retornando ao clube 14 anos depois. Após cinco meses no comando e o título carioca, deixou o clube. Em setembro, foi anunciado como novo técnico do Cruzeiro. Até retornar ao Vasco 19 anos depois. Deixaria o clube em março de 2020, no último jogo antes da paralisação do futebol devido à pandemia do coronavírus. Em novembro, reassumiu o Internacional pela sétima vez e acabou vice-campeão brasileiro. Em junho de 2021, voltou a assumir um clube europeu, ao ser contratado pelo Lugano, da Suíça. Dois meses depois, porém, após terceira troca de dono no clube no período, deixou o comando depois de cinco partidas. Até que, em dezembro de 2021, foi contratado novamente pelo Fluminense, nesta que é sua quarta passagem pelo clube. Após novo título carioca pelo clube, deixou o comando no início do Brasileiro. Até iniciar uma nova etapa da sua carreira, agora como diretor técnico, função exercida no Vasco em 2023.