La représentation diplomatique palestinienne se trouve dans un immeuble face au Vatican qui abrite déjà les ambassades du Pérou et du Burkina Faso auprès du Saint-Siège.
En s'adressant brièvement aux journalistes devant l'immeuble, M. Abbas a réitéré son opposition au transfert de l'ambassade américaine en Israël de Tel-Aviv à Jérusalem.
"On ne peut encore rien dire car cela ne s'est pas encore produit, mais si cela se produisait, ça n'aiderait pas le processus de paix. J'espère que cela ne se produira pas", a déclaré M. Abbas qui s'exprimait en arabe.
Le président élu américain Donald Trump a promis durant sa campagne électorale de reconnaître Jérusalem comme la capitale d'Israël et de déplacer l'ambassade américaine de Tel-Aviv à Jérusalem.
Il romprait ainsi avec la politique historique des Etats-Unis qui est aussi celle de la très grande majorité de la communauté internationale, pour qui le statut de Jérusalem, également revendiquée par les Palestiniens comme capitale de leur futur Etat, doit se régler par la négociation.
Dans un communiqué publié ultérieurement, M. Abbas affirme "tendre la main au président élu Trump pour coopérer afin de parvenir à la paix basée sur les lois internationales".
"Toute tentative de légitimer l'annexion illégale par Israël de la ville (Jérusalem, ndlr) détruira les perspectives d'un processus politique, mettra un terme aux espoirs d'une solution fondée sur deux Etats et apportera de l'eau au moulin de l'extrémisme dans notre région et dans le monde", poursuit le communiqué.
M. Abbas a par ailleurs salué "le rôle du président (français François) Hollande et du gouvernement français" dans l'organisation de la conférence internationale qui réunit dimanche à Paris 70 pays pour discuter des moyens de parvenir à la paix au Proche-Orient.
"Nous invitons tous les participants à prendre des mesures concrètes pour appliquer la loi internationale et les résolutions de l'ONU", a ajouté M. Abbas, cité par le communiqué.
M. Abbas avait rencontré auparavant pendant une vingtaine de minutes le pape François qui l'a accueilli chaleureusement.
Parmi les cadeaux échangés, Mahmoud Abbas a offert au pape une pierre provenant de l'église du Saint-Sépulcre à Jérusalem, selon Greg Burke, directeur du Bureau de presse du Saint-Siège.
Un communiqué du Vatican a par la suite "exprimé l'espoir que des négociations directes entre les deux parties puissent reprendre afin de mettre un terme à la violence qui cause des souffrances inacceptables aux populations civiles et de parvenir à une solution juste et durable".
"Il est souhaitable de prendre des mesures, avec le soutien de la communauté internationale, favorisant la confiance réciproque et contribuant à créer un climat permettant de prendre des décisions courageuses en faveur de la paix", selon la même source.
Cette audience privée représentait la troisième rencontre entre le pape et M. Abbas après la visite de 2014 du souverain pontife en Israël et dans les Territoires occupés et la venue du dirigeant palestinien au Vatican en 2015 pour la canonisation de deux religieuses palestiniennes.
Les relations entre le Vatican et les autorités palestiniennes avaient franchi une nouvelle étape en 2015 avec la signature d'un accord qui a abouti à la création d'une ambassade palestinienne auprès du Vatican.
Cet accord, qui est intervenu deux ans après la reconnaissance par le Vatican de la Palestine en tant qu'Etat, a provoqué la colère d'Israël, qui a aussi peu apprécié que le pape ait qualifié M. Abbas d'"ange de la paix" lors de leur rencontre en mai 2015.