Les deux stars, qui ont six enfants et étaient autrefois le couple le plus en vue d'Hollywood, ont demandé le divorce en 2016 et s'affrontent depuis par avocats interposés.
En mai, le juge désigné pour statuer sur leur séparation - qui avait aussi célébré leur mariage en France en 2014 - avait octroyé à Brad Pitt la garde partagée de ses enfants. Ce magistrat, à la retraite, officie dans un cadre privé et non dans un tribunal.
Mais vendredi, une cour d'appel de Californie a jugé qu'il avait bénéficié financièrement d'un travail distinct avec les avocats de Brad Pitt sans en faire état, donnant raison à Angelina Jolie qui estimait qu'il devait être disqualifié.
Cette décision marque un retour à la case départ pour l'affaire, qui devra recommencer devant un nouveau juge.
Les acteurs s'étaient rencontrés en 2004 sur le plateau de "Mr. and Mrs. Smith", dans lequel ils jouaient un couple. A ce moment-là, Brad Pitt était encore marié à Jennifer Aniston.
L'acteur âgé de 57 ans avait été accusé d'avoir frappé l'un de ses enfants lors d'un vol entre la France et Los Angeles peu avant que sa compagne ne demande le divorce, mais a depuis été blanchi par le FBI et des travailleurs sociaux.
En 2018, Angelina Jolie et Brad Pitt avaient conclu un accord à l'amiable sur la garde de leurs enfants, qui semble avoir été défait depuis.
Ses termes n'avaient pas été rendus publics, mais, selon les médias américains, Brad Pitt cherchait à obtenir une garde partagée, tandis qu'Angelina Jolie souhaitait une garde exclusive.
Après la décision de mai, une source proche du dossier avait déclaré à l'AFP que l'actrice pensait "qu'elle et les enfants n'avaient pas eu le droit à un procès équitable" et qu'elle continuerait à "chercher la meilleure solution pour les enfants et leur bien-être".
Une porte-parole de Brad Pitt n'a pas souhaité s'exprimer, et les représentants d'Angelina Jolie n'ont pas répondu dans l'immédiat à une demande de commentaire de l'AFP.