Des hommes armés non identifiés ont tiré sur la voiture de Revocant Karemangingo, 49 ans, alors qu'il se rendait à son domicile dans la capitale mozambicaine.
Les attaquants "ont tiré neuf coups de feu sur le véhicule. La victime a été immédiatement transportée à l'hôpital mais elle est décédée", a déclaré à l'AFP la porte-parole de la police, Carmina Leite.
Une enquête a été ouverte mais la police ne tient pour l'instant aucune piste.
Revocant Karemangingo, qui avait monté un commerce de produits pharmaceutiques au Mozambique, était soupçonné de soutenir secrètement l'opposition au Rwanda.
"La communauté rwandaise au Mozambique est effrayée par ce meurtre", a déclaré à l'AFP Cleophas Habiyaremye, président de l'Association des réfugiés rwandais au Mozambique.
"Le gouvernement de Kigali persécute les réfugiés rwandais non seulement au Mozambique mais dans le monde entier", a-t-il ajouté.
Plusieurs opposants au régime du président Paul Kagame ont été assassinés ou cibles d’agressions ces dernières années, notamment en Afrique du Sud.
En février, un responsable d'un parti d'opposition, Seif Bamporiki, 49 ans, a été tué par balles.
En 2014, l'ex-patron des renseignements et ancien proche de Kagame dont il était devenu un adversaire acharné, Patrick Karegeya, avait été retrouvé mort étranglé dans une chambre d'hôtel de Johannesburg.
Un autre exilé rwandais, l'ancien général Faustin Kayumba Nyamwasa, cofondateur du Congrès national rwandais (RNC) avec M. Karegeya, a quant à lui survécu à plusieurs tentatives d'assassinats.
Le Rwanda, dirigé d'une main de fer par Paul Kagame depuis la fin du génocide qui a coûté en 1994 la vie à quelque 800.000 personnes, principalement des Tutsi, est régulièrement critiqué pour ses attaques contre la liberté d'expression.