O Tupynambás foi fundado no dia 15 de agosto de 1911 por Bruno Toschi, Remo Toschi, Dante Zanetti, Alberto Setta, Sebastião Taucci, Jorge Miguel, Horácio Antunes Paulo Tirapani e Edmundo Benedicto. No ano seguinte, o clube disputou sua primeira partida oficial, contra aquele que seria seu maior rival: o Tupi. Empate de 1 a 1, sendo Sebastião Taucci, o primeiro a marcar um gol com a camisa do Tupynambás.

Na primeira competição oficial de Juiz de Fora, em 1918, o Baeta foi vice-campeão, perdendo a decisão para o Sport. Ano em que o leão virou mascote do clube.

Em 1919, o Tupynambás conquistou o seu primeiro título da cidade, conseguindo o bicampeonato no ano seguinte. Nessa mesma competição, obteve mais 11 títulos, o último em 66.

O primeiro campo do Tupynambás ficava na Rua Bernardo Mascarenhas, Bairro Fábrica, onde hoje fica o Colégio Técnico Universitário. O clube construiu seu estádio no Bairro Poço Rico, durante a gestão do presidente José Paiz Soares, o qual empresta seu nome ao estádio. A inauguração ocorreu em 1950, em um amistoso entre Tupynambás e Corinthians, que venceu a partida por 5 a 1. O clube paulista foi convidado a inaugurar, quatro anos mais tarde, a iluminação do Estádio José Paiz Soares, voltando a vencer o Tupynambás, desta vez por 2 a 1.

Em 1969, o Tupynambás participou do Campeonato Mineiro pela primeira vez, para isso tendo que desligar-se da Liga de Desportos de Juiz de Fora. Entretanto, o clube não teve condições de arcar com as despesas da competição estadual e abandonou o futebol profissional. Temporariamente, pois o Tupynambás retornou às atividades profissionais em 1983, quando disputou o Campeonato Mineiro da Segunda Divisão. A campanha desastrosa, sob o comando do técnico Augusto Clemente, acarretou em um novo abandono da equipe principal por parte do clube.

Em 2006, o Tupynambás conquistou um dos maiores campeonatos a nível internacional de toda sua história, a 7ª Taça Internacional de São Paulo.