O CCIM resultou do desmembramento do Centro de Controle de Estoque da Marinha, criado pelo Decreto nº 37.222, de 27 de abril de 1955, com a denominação de Centro de Controle de Estoque de Material Comum, e teve suas atividades alteradas pelo Decreto nº 40.546, de 11 de dezembro de 1956. Passou a reger-se pelo Decreto nº 46.424, de 14 de julho de 1959, que unificou o funcionamento dos Centros de Controle de Estoque, tendo sua organização modificada pelo Decreto nº 53.496, de 21 de janeiro de 1964. Foi transformado em Centro de Controle de Material pelo Decreto nº 57.040, de 11 de outubro de 1965, em virtude de sua fusão com o Centro de Controle de Estoque de Sobressalentes para Navios. Sofreu modificações em sua estrutura pelo Decreto nº 57.722-A de 2 de fevereiro de 1966 e pelo Decreto nº 79.554 de 19 de abril de 1977, teve sua denominação alterada para Centro de Controle de Estoque da Marinha e suas atividades regulamentadas pelo Decreto nº 81.961 de 11 de julho de 1978. Revogado o Decreto anterior pelo de nº 96.513 de 15 de agosto de 1988, teve suas atividades organizadas pela Portaria nº 0040, de 29 de agosto de 1988, do Chefe do Estado-Maior da Armada (CEMA). O Decreto nº 1033 de 30 de dezembro de 1993 extinguiu o Centro de Controle de Estoque da Marinha e mediante a Portaria Ministerial nº 0772, de 21 de dezembro de 1993 foi ativado o CCIM. Seu Regulamento inicial e os dois seguintes foram aprovados, respectivamente, pelas Portarias nº 0051, de 6 de abril de 1994, nº 0076, de 16 de maio de 1995 e nº 17, de 21 de janeiro de 2000, do CEMA.