Le cadavre du colonel Charles Ndihokubwayo a été retrouvé "dans la cour intérieure (de l'église) de la paroisse St Joseph de Ngagara", un quartier situé dans le nord de la capitale, a indiqué M. Nkurikiye sur son compte Twitter.
"Une enquête (est) en cours", a-t-il ajouté, sans donner plus de précisions sur les causes et circonstances du décès.
Le corps du colonel Ndihokubwayo, qui était de garde samedi au Centre d'instruction de Mitakataka (province de Bubanza, ouest), où il était affecté, a été retrouvé lundi matin, selon un proche de la famille.
Dans un incident distinct, le corps d'un homme non identifié "portant une blessure à la tête et une autre sur le côté" avait été découvert dimanche sur la colline de Mpehe, dans la province de Muramvya (centre), selon une source policière et des témoins.
"Nous sommes très préoccupés par la recrudescence depuis quelques mois du phénomène de cadavres de personnes tuées violemment qu'on retrouve jetés un peu partout dans le pays", a dénoncé auprès de l'AFP Anschaire Niyobamye, le président de la ligue Iteka (Dignité).
Iteka, la principale ligue des droits de l'Homme au Burundi, interdite depuis début janvier, dit avoir recensé "22 cadavres découverts en janvier, 17 en février et 24 au cours des trois premières semaines de mars".
Des cadavres étaient régulièrement découverts dans les rue durant les premiers mois de la crise que traverse ce pays. Mais ce phénomène avait ensuite pratiquement disparu, avant de réapparaître au début 2017.
"On constate qu'il s'agit souvent de corps de gens qu'on trouve les bras ligotés dans le dos et qui ont été tués par balles, poignardés ou à l'aide d'une corde. Certains ont été tués quelques heures avant, alors que d'autres sont en état de décomposition avancée", a expliqué Anschaire Nikobamye, notant que "le plus souvent, l'administration s'empresse de les enterrer avant qu'ils ne soient formellement identifiés".
La ligue Iteka accuse le pouvoir burundais d'être derrière ces crimes, qui visent essentiellement "de jeunes Tutsi accusés d'être de l'opposition ou encore des soldats, des policiers ou des pensionnés issus des ex-FAB (ancienne armée dominée par la minorité tutsi)".
Elle demande "au gouvernement d'accepter une enquête internationale sur ces atrocités".
Le pouvoir burundais est aujourd'hui aux mains de l'ex-principale rébellion hutu du CNDD-FDD, arrivé au pouvoir par les urnes en 2005, après la signature de l'accord de paix d'Arusha de 2000 et d'un accord de cessez-le-feu, qui ont permis de mettre fin à une guerre civile qui a fait plus de 300.000 morts (1993-2006).
"Aujourd'hui au pays, c'est la sécurité totale", a rétorqué auprès de l'AFP le 1er vice-président Gaston Sindimwo. Il a dénoncé "ceux qui veulent mettre de l'huile sur le feu en tentant de rallumer le conflit ethnique au moment où nous l'avons enterré".
Le Burundi est plongé dans une grave crise depuis l'annonce en avril 2015 de la candidature du président Pierre Nkurunziza à un troisième mandat controversé et sa réélection en juillet de la même année.
Les violences ont fait de 500 morts, selon l'ONU, à 2.000 selon les ONG, et poussé quelque 400.000 personnes à quitter le pays.