Como toda cidade brasileira, Ibitinga nasceu com a chegada da Igreja Católica. A organização social se desenvolveu entorno da primeira capela, e quando o pequeno povoado começou a se tornar cidade e emancipar-se, uma nova igreja foi construída.
Conta a história que em 1865-66 Miguel Landim, o fundador de Ibitinga, teve febre palustre (malária) e fez uma promessa para se curar: uma imagem do Senhor Bom Jesus de tamanho do doente seria ofertada ao povoado. Quando se recuperou, Miguel Landim procurou cumprir o prometido e assim que soube de uma imagem que corresponderia a promessa em uma capela abandonada no Forte de Itapura, mandou uma expedição liderada por nhô João, negro escravizado a seu serviço, buscá-la.
A imagem ficou abrigada na fazenda Monte Alegre até a construção de uma capela na região da atual Praça Jorge Tibiriçá. Por anos essa capela foi o centro religioso e social do povoado, porém com o passar do tempo e o crescimento da população fez-se necessária a construção de uma nova igreja.
No jornal "O Ibitinguense" (1911-1913, arquivo da Biblioteca Nacional) essa capela é descrita como pequena, feia, velha, acabada, com o telhado caindo e em ruínas. O editor chega a dizer que deveria ser interditada por questões segurança pública. Realmente, a capela teria sido atingida por uma tempestade em 1908 que danificou muito sua estrutura.
A construção da nova igreja já havia começado desde 1891, mas em 1911 estava parada. Apesar disso, várias localidades já se endereçavam no "largo da matriz nova" e a região já ia se tornando o centro da cidade. Em novembro do mesmo ano é dada a notícia da retomada das obras da igreja e foram realizados mais eventos para arrecadar fundos para a construção. Ainda parada em maio do ano seguinte, foi aberto edital para que concorrentes apresentassem propostas para a continuação das obras.
Foi anunciada a parceria entre Rosalbino Tucci e Manoel Martins como nova responsável pelo projeto que foi logo recomeçado. Dessa vez parecia que as obras continuariam sem mais problemas, em fevereiro de 1913 começam os trabalhos com o telhado e havia esperança de se comemorar o dia do padroeiro na nova matriz ainda naquele ano. Porém, poucos meses depois o jornal "O Ibitinguense" dá notícias de mais interrupções na construção. Finalmente, depois de muitas pausas e esforços, a Matriz foi inaugurada em janeiro de 1914, quando foi levada a imagem do Bom Jesus da velha capela para o altar onde está hoje.
Através das fotos mais antigas, vemos que arquitetura original da igreja era em formato de cruz, com o altar no coração da cruz. A primeira reforma adicionou seis capelinhas, três de cada lado. Nos anos 70 foi feita mais uma reforma que ampliou a igreja, modificando o formato do prédio. Nos anos 2000 foi construído o barracão anexo nos fundos onde são organizados os eventos da paróquia. Uma gruta/capela para N. Sra. ainda existe na lateral da igreja, mas suas pedras foram pintadas junto com as paredes numa das pinturas mais recentes. Ainda podemos observar o conjunto de 4 anjos na torre esculpidos por Domingos Mariano e os santos que rodeiam a cúpula, obras do mesmo autor que foram adicionadas na primeira reforma.
Atualmente a Igreja Matriz do Sr. Bom Jesus é um ponto turístico-religioso importante de Ibitinga, sendo o abrigo dos restos mortais do menino Nelsinho, que segue em processo de beatificação no Vaticano, e da série de pinturas a óleo da via sacra de Duílio Galli.