A primeira capela de que se tem notícia em Paraíba do Sul foi edificada por Garcia Rodrigues Paes, em uma ilha em frente à Praça Marquês de São João Marcos. Nas enchentes de 1906 a pequena ilha foi levada pelas águas e desapareceu. Consequentemente, também a capela foi levada pelas águas. Mesmo antes da enchente, a capela já se achava arruinada e Pedro Dias Paes Leme, filho de Garcia, resolveu con
struir outro templo, em um morro em frente ao "Jardim Velho" em 1745, quando se instalou o curato que em 1756 passou a freguesia de São Pedro e São Paulo. Com o falecimento do casal Garcia e Maria Antônia, e a mudança de seu filho Pedro para o Rio de Janeiro, o templo ficou abandonado e as imagens e o Santíssimo Sacramento foram levados para a antiga casa de Garcia, onde se celebravam os atos religiosos. Pedro I pela terceira vez esteve em Paraíba do Sul, com a Imperatriz Amélia e comitiva. Ao verificar pessoalmente o estado de ruína em que a igreja matriz se encontrava, entregou 100 mil réis ao vigário para a restauração, ato que estimulou paroquianos a também contribuir, imitando o Imperador. OS
Em 1833, quando Paraíba do Sul se tornou uma vila com prerrogativas de município, primeira Câmara de a Vereadores, às vezes presidida por Hilário Joaquim de Andrade, futuro Barão do Piabanha, em outras presidida por Antônio Barroso Pereira, futuro Barão de Entre Rios, já discutia a construção de uma nova matriz. Falavam na demolição do antigo templo e no aproveitamento de telhas para o novo. Em 03 de setembro de 1834, o responsável pela construção pedia autorização para fazer a obra com esteio de graúna, paredes de tijolos e alicerces de pedra. Em 1838, o fazendeiro Jeronymo José de Saldanha começou a construir uma igreja dedicada a São Sebastião na Praça Marquês de São João Marcos, mas a ideia não vingou devido à escassez de recursos. Jeronymo entregou a obra não terminada ao governo da Província, que mandou construir ali uma Matriz provisória terminada em fevereiro de 1848. Antes da construção da Matriz de São Pedro e São Paulo, havia no local um pântano de águas podres que atraíam mosquitos e em consequência, as chamadas febres e demais enfermidades. Até jacarés habitavam suas águas. Este pântano era onde hoje existe a Matriz, a Praça Garcia e o Riachuelo E.C. e era chamado de Lagoa do Lava Tripa. Isso porque os bois que eram abatidos para consumo eram limpos às margens desta lagoa. Em 1843, o Presidente da Província do Rio de Janeiro, João Caldas Vianna, mandou que o problema fosse resolvido, aterrando o local e usando para este fim valores obtidos com subscrições públicas acrescidas de 400 mil réis pagos pela Província. Conseguindo aterrar a lagoa, a vila ganhou uma boa extensão de terras, onde se construiu uma praça que se chamou de Praça Presidentes, nome sugerido por Simão Dias dos Reis em homenagem aos presidentes da Província que colaboraram com sua construção. Hoje é a Praça Garcia. Também por sugestão do futuro e já citado Barão de Simão Dias, foi indicado um local para se construir a Matriz de São Pedro e São Paulo, cuja pedra fundamental foi lançada em 04 de setembro de 1860. Naquele dia, o Presidente da Câmara de Paraíba do Sul suspendeu a sessão do dia e dirigiu-se ao local onde haveria a solenidade de lançamento acompanhado dos demais vereadores. Diversas irmandades estiveram presentes "no largo em frente à ponte". Depois celebraram um Te Deum e retornaram. Em 15 de agosto de 1876, o jornal Gazeta de Notícias informa que a loteria nº 240 da província que correria na Casa da Câmara Imperial de Niterói, seria revertida para pagamento das despesas com a construção da Igreja Matriz de Paraíba do Sul. Mesmo tendo acontecido o aterro nos terrenos que deram origem à construção da Matriz e da Praça, até 1881 ainda havia no entorno um charco que a Câmara de Vereadores mandou aterrar e suprir de esgoto. Em 03 de fevereiro de 1882, o vigário fez um pedido à Câmara para que mandasse limpar o caminho existente desde a estrada de ferro até a nova Matriz, para que se pudesse trasladar para o novo templo o Santíssimo Sacramento e as Imagens Sagradas que se achavam na velha Matriz que ameaçava desabar. As imagens foram levadas no domingo da Ressurreição, 09 de abril de 1882. Em junho a Câmara mandou demolir a antiga igreja, transferindo seu altar mor para a Igreja de Santana no Bairro do Lavapés e os altares laterais, um para a Matriz nova e outro para a Igreja de Santo Antônio na Encruzilhada. O novo templo estava pronto para os atos litúrgicos, embora ainda faltassem alguns detalhes que seriam completados aos poucos. Em 05 de março de 1883, a Câmara de Vereadores lembra que as imagens dos santos que estavam na sala de sessões também deveriam ser transferidos para a Matriz. Durante muitos anos a Igreja Matriz não tinha torres sineiras porque elas só foram construídas no ano de 1933 e passaram a compor a frente da igreja. É por isso que sua frente exibe duas datas, 1860 e 1933.
É visível a diferença entre a obra da igreja, terminada no século XIX, onde as pedras de cantaria foram fartamente utilizadas. Na construção das torres sineiras, já no século XX, a estrutura da obra, a pintura e os detalhes são de material diverso. O altar mor foi assentado no final do século XIX. É feito em carvalho de origem europeia e encomendado para a Igreja. Foram seus doadores a Condessa do Rio Novo, o Barão de Entre Rios, o Visconde da Paraíba e o Barão do Piabanha. Intacto e com as pinturas originais, é uma obra de arte de grande valor histórico para a região. Alguns altares já não existem, mas a historiografia lembra que o altar de São Miguel foi doado pelo Barão de Ribeiro de Sá e o altar de Santo Antônio foi encomendado por Antônio Pinto de Oliveira e Maria Pereira Nunes, parenta do Barão de São Carlos. Os dois grandes lustres no adro da Igreja foram doados pelo Dr. Randolpho Augusto de Oliveira Penna, casado com Carolina Augusta Barroso Pereira, filha do Visconde de Entre Rios, portanto sobrinha da Condessa do Rio Novo.