Considerada uma das mais antigas igrejas de Parnaíba, a Igreja do Rosário recebeu seu nome por causa do local onde foi instalada, que se chamava Largo do Rosário, que é um dos jardins da antiga Praça da Graça (antes da reforma de 1982). A igreja fica localizada na Rua Oscar Clarck, no centro de Parnaíba, próxima da Igreja de Nossa Senhora da Graça. A proximidade é explicada porque na Igreja de Nossa Senhora da Graça só os homens brancos tinham acesso e na Igreja do Rosário apenas os negros podiam entrar.
A Igreja do Rosário foi, portanto, constuída para que os negros pudessem exercer sua fé.
A sua construção foi iniciada no século XVIII, e foi erguida com sobras de material da então igreja matriz de Nossa Senhora Mãe da Divina Graça.
Com uma fachada simples e possuindo uma única porta, a Igreja do Rosário possui duas capelas (de Nossa Senhora do Perpétuo Socorro e Nossa Senhora de Lourdes), duas sacristias e imagem da Virgem do Rosário com a inscrição em latim: Altare Previlegiatum.