La chambre des Communes a recalé le texte par 432 voix contre 202, soit la plus lourde défaite essuyée par un dirigeant britannique depuis les années 1920.
En première ligne dans ce dossier côté européen, le président de la Commission européenne Jean-Claude Juncker a réagi en estimant que "le risque d'un Brexit sans accord s'est accru".
"J'appelle le Royaume-Uni à clarifier ses intentions dès que possible. Le temps est presque écoulé", a-t-il ajouté, le Brexit étant programmé pour le 29 mars.
A peine le résultat connu, le chef de l'opposition travailliste Jeremy Corbyn, qui réclame depuis des semaines des législatives anticipées, a présenté une motion de censure contre le gouvernement britannique, qualifiant ce vote de "catastrophique" pour l'exécutif conservateur.
Le rejet de cet accord est tout sauf une surprise tant était forte l'opposition à ce "Traité de retrait" de l'UE, âprement négocié pendant 17 mois avec Bruxelles, mais qui n'a convaincu ni les Brexiters, ni les europhiles.
Theresa May a désormais jusqu'à lundi pour présenter un "plan B" - si elle survit à la motion de censure travailliste, qui sera votée mercredi à 19H00 GMT. Plusieurs options s'offrent à elle: s'engager à retourner négocier à Bruxelles ou demander un report de la date du Brexit, prévue le 29 mars.
Le vote de mardi ouvre également la possibilité du divorce sans accord évoquée par M. Juncker, une option tout particulièrement redoutée par les milieux économiques.
"La chambre a parlé et ce gouvernement écoutera", a déclaré Theresa May après le vote, proposant des discussions entre partis pour déterminer la voie à suivre.
- 'Jour amer' pour l'Europe -
Malgré l'ampleur de la défaite, un porte-parole de Downing Street a assuré que la cheffe du gouvernement ne démissionnerait pas, et qu'elle restait "concentrée sur la mise en oeuvre du Brexit".
"La première étape consiste à vérifier si le gouvernement jouit toujours de la confiance de la chambre des communes. La Première ministre pense que c'est le cas", a-t-il développé, tandis que les réactions affluaient du côté du bloc européen.
Les 27 "vont rester unis", a déclaré un porte-parole du président du Conseil européen Donald Tusk, le président français Emmanuel Macron estimant que "la pression" pour trouver une solution était "du côté" des Britanniques.
Le rejet de l'accord est un "jour amer pour l'Europe", a estimé pour sa part le ministre des Finances et vice-chancelier allemand Olaf Scholz. "Nous sommes prêts. Mais un Brexit dur est la pire de toutes les possibilités pour l'UE, mais surtout pour le Royaume-Uni", a-t-il dit, sur Twitter.
Evoquant également cette perspective, le gouvernement irlandais a annoncé "intensifier" ses préparatifs face au risque d'un "Brexit désordonné".
Ce vote a ravivé les passions dans un Royaume-Uni profondément divisé depuis le référendum de juin 2016, avec une classe politique se montrant incapable de se mettre d'accord sur le type de relation souhaitée avec l'UE, entre rupture franche et maintien de liens étroits.
La tension était palpable dans les milieux financiers, prêts à faire face à une forte volatilité des actifs britanniques.
"Chaque entreprise aura maintenant l'impression qu'un no deal (pas d'accord) se rapproche", a déclaré Carolyn Fairbairn, patronne de la CBI, principale organisation patronale britannique.
La livre britannique se reprenait toutefois face à l'euro et au dollar mardi, le rejet ayant été largement anticipé.
- 'Ravi' du rejet -
Ce rejet a en revanche été accueilli par des vivats autour du Parlement, où des militants pro et anti-Brexit, drapeaux du Royaume-Uni ou de l'UE à la main, ont manifesté toute la journée.
"Je suis si contente, mais un peu préoccupée par la suite", a déclaré à l'AFP Sarah Cuthbertson, 68 ans, pro-UE.
Dans le camp des Brexiters, Reg Kerr-Bell, un Londonien de 55 ans portant une pancarte "Partir, c'est partir (de l'UE)", s'est dit "ravi", et a appelé de ses voeux à un divorce sans accord.
Initialement prévu en décembre, le vote avait été reporté à la dernière minute par Mme May pour éviter une défaite annoncée et tenter d'obtenir des "assurances" supplémentaires des dirigeants européens.
Ceux-ci se sont contentés de réaffirmer lundi que l'UE "ne souhaite pas" l'entrée en vigueur de la disposition la plus controversée de l'accord, celle du "filet de sécurité" ("backstop" en anglais).
Cette option de dernier recours prévoit de maintenir le Royaume-Uni dans une union douanière avec l'UE pour éviter le rétablissement d'une frontière physique entre l'Irlande et la province britannique d'Irlande du Nord, si aucune autre solution n'est trouvée à l'issue de la période de transition post-Brexit.
Les conservateurs pro-Brexit y voient une forme d'ancrage indéfini dans l'UE et le petit parti unioniste nord-irlandais DUP une menace pour l'intégrité du Royaume-Uni.