Les trois âges de la rotoscopie

exte de Pierre Hébert publié dans Quand le cinéma d’animation rencontre le vivant (Les 400 coups, Montréal, 2006, dossier réuni par Marcel Jean)

Je dois préciser d’entrée de jeu que les notes qui suivent ont été écrites de façon spontanée à partir de mon souvenirs des films que j’ai pu visionner au cours des quarante dernières années et à partir de mes préoccupations actuelles pour ce qui arrive au cinéma et au cinéma d’animation depuis une bonne décennie de bouleversement technologique. Il s’agit donc d’une approche extrêmement personnelle. J’ai tenté de réfléchir dans une perspective historique mais sans pouvoir aucunement prétendre faire œuvre d’historien en ces matières. Ce sont des hypothèses de travail.

Jusqu’à récemment, le terme « rotoscopie» désignait une option parmi la constellation des nombreuses techniques d’animation dont la liste s’est plus ou moins constituée vers le début des années soixante. Ceci s’est produit suite à l’invention de l’appellation «cinéma d’animation» qui remplaça la vieille appellation «dessin animé» ou de «animated cartoons», selon le terme américain, dont le foyer technique était beaucoup plus restreint et se limitait presque uniquement à «l’animation sur cellulo» et aux formes narratives très circonscrites qui lui étaient rattachées.

Ce n’est pas que «la rotoscopie» n’existait pas avant cette date, au contraire, il y a des exemples historiques célèbres sur lesquels nous reviendrons. Mais il y a eu à l’après-guerre un changement de constellation qui a redistribué les cartes et replacé dans un ensemble de relations nouvelles les pratiques antérieures qui, jusque-là, avaient gravité autour du «animated cartoons».

Avec l’invention du «cinéma d’animation» (au sujet de l’invention du cinéma d’animation» au début des années 60, voir les travaux de Hervé Joubert-Laurencin),), l’éventail technique s’est radicalement élargi et la créativité a été balisée par des conceptions plus individualistes, plus ouvertement ambitieuses sur le plan artistique – ce qui ne veut pas dire plus réussi. Dans cette nouvelle constellation, qui est celle dans laquelle je me suis inséré lorsque je suis devenu cinéaste d’animation en 1964, la «rotoscopie» cessait d’être la technique d’appoint du «dessin animé» qu’elle avait été jusque là pour devenir une option autonome de plein droit. Je réfléchis ici sans trop de précautions méthodologiques, mais je suis à peu près convaincu que l’examen de la production montrerait un éclatement des paramètres stylistiques de la rotoscopie à partir de cette époque. On trouverait de nombreux exemples où il s’agissait moins de donner un caractère naturaliste aux mouvements de personnages animés que de greffer sur des mouvements naturalistes des traitements visuels inhabituels et surprenants. En quelque sorte, le vecteur était inversé par rapport à l’époque dominée par le «animated cartoon».

L’«animation par ordinateur» est d’abord apparu comme une technique de plus dans la constellation du «cinéma d’animation» mais, en réalité, le développement de l’informatique allait être le point de départ de l’émergence d’une toute nouvelle constellation – la «constellation numérique». De nouveau il fallait non seulement redistribuer les cartes dans la pratique de l’animation, mais globalement et fondamentalement remettre en question les bases esthétiques et techniques du cinéma sous sa forme classique, au sein de laquelle le cinéma d’animation avait eu jusque-là à définir sa place. Tout comme elle avait occupé une place critique dans l’événement originel de l’invention du cinéma, l’animation a de nouveau joué un rôle clef dans cette nouvelle mutation en profondeur de l’audiovisuel. La redéfinition de la place et de la base technique de la rotoscopie à l’âge de l’informatique est un des points sensibles de ce repositionnement et de cette reconfiguration de l’animation.

La thèse que je compte suggérer ici est qu’en arrière plan de «l’animation», l’idée de rotoscopie a occupé une position stratégique dans la succession des trois constellations sus-mentionnées en ce sens qu’elle pose de façon aiguë et simultanée deux ordres de problèmes fondamentaux. Premièrement, le problème des rapport entre mouvement animé et mouvement réel et, deuxièmement, celui du rapport entre «cinéma de prise de vues réelles» et «cinéma d’animation». Il s’agit dans les deux cas de questions très sensibles en ce qui a trait au principe même de l’animation, à savoir la création de mouvement «image par image». Tout cela touche également la question plus générale de la valeur corporelle des mouvements animés, en particulier, et des mouvements médiatisés, en général et, à ce titre, a à voir avec la nature ou l’existence d’un flux corporel entre l’animateur et les entités mouvantes qu’il crée.

De prime abord, «la rotoscopie» désigne une classe de dispositifs techniques qui, à l’époque où le «cinéma» sous sa forme classique dominait le monde de l’audiovisuel, permettaient d’animer en se guidant sur les mouvements d’un sujet réel préalablement filmé. Il s’agit de se servir des positions successives de mouvements réels telles que distribuées sur les images successives d’une bande de film pour les recopier par dessins sur un autre support. Voilà donc une définition techniquement et historiquement assez restrictive de la rotoscopie, qui présuppose une série préalable d’autres énoncés et définitions, concernant le «cinéma classique», les rapports entre «le cinéma d’animation» et le «cinéma classique» et finalement les conséquences de l’explosion des formes de l’audiovisuel à l’occasion de la généralisation des technologies numériques.

Je n’entrerai pas dans le détail de ces préalables. Qu’il suffise de poser qu’à mon avis l’entité «cinéma d’animation» n’a eu de valeur comme catégorie que dans son rapport historique avec le «cinéma classique», c’est-à-dire le cinéma sous sa forme originale mécanique et optico-chimique. Ceci a comme corollaire que l’activité d’«animation», qui pour autant n’a pas disparu, a fait l’objet d’une totale réinsertion dans le contexte esthétique et technologique radicalement nouveau dominé par le numérique.

Peut-être ne s’agit-il que d’une question d’usage des mots, mais il est remarquable qu’on ne semble plus guère employer le terme «rotoscopie» depuis quelques années. Tout comme on continue de faire de l’animation et des films d’animation après «le cinéma d’animation», on continue, certes, à l’époque de l’imagerie numérique, de créer du mouvement animé d’après des modèles réels, parfois d’une façon techniquement comparable à ce qui se passait à l’époque du cinéma classique. Mais le plus souvent, la rotoscopie numérique prend des formes totalement nouvelles et c’est un fait que, dans ce nouvel environnement technique, la problématique des rapports entre mouvements réels et mouvements synthétiques a éclaté dans toutes sortes de directions extrêmement variées. Je pense en particulier aux dispositifs de «motion control» qui, en matière de connexion directe entre des personnages dessinés et des mouvements réels préalablement filmés ou, plus généralement, captés, occupent maintenant le centre de la scène au dépends des procédures classiques.

Sommairement, ces dispositifs opèrent en synthétisant les données émises par des capteurs placés à des points critiques du corps de «comédiens» ou de «modèles» pour activer automatiquement les personnages modélisés dans l’ordinateur. Strictement, nous sommes au-delà de la rotoscopie car il n’y a plus de distinction entre l’opération de captation du mouvement réel et leur transmission à une entité dessinée. La patiente recopie des phases du mouvement réel filmé, centrale dans la rotoscopie classique, est éliminée. Il n’y est d’ailleurs plus question de travail «image par image» au sens strict du terme. L’automatisation numérique a ainsi balayé la définition classique de l’animation tout en maintenant une apparence d’animation.

À travers l’usage des dispositifs de «motion control», l’animation se rapproche ainsi encore plus du caractère indiciel du cinéma réel qu’elle ne le faisait déjà dans le cas de la rotoscopie classique. Vus sous cet angle, la rotoscopie et son successeur contemporain, le motion control, sont d’avantage qu’une simple technique d’animation. Ce sont des pratiques qui, dans leurs multiples polarités, mettent en crise les rapports entre mouvements animés et mouvements réels ainsi que les rapports entre animation et post-animation (ou, si l’on veut, animation de l’époque du cinéma numérique). C’est donc dire que le noyau central du cinéma est aussi mis en question.. Si l’on n’emploie plus beaucoup le mot «rotoscopie», c’est bien le symptôme que quelque chose a changé au niveau de ce qui, depuis le moment originaire de l’invention, constituait un point limite entre cinéma et cinéma d’animation.

Il y a un deuxième aspect de l’impact du numérique sur l’animation par rotoscopie. Outre le fait de calquer le mouvement animé sur le mouvement réel, un autre aspect de la rotoscopie consistait à appliquer des traitements graphiques non réalistes sur des entité mouvantes naturalistes quant au caractère de leurs mouvements. Or il se trouve que l’infographie offre, depuis pas mal d’années, la possibilité d’altérer de façon plus ou moins automatique l’apparence graphique d’images réelles. Cela a marqué d’abord tout un domaine du traitement numérique des photographies (à travers le logiciel Photoshop par exemple) et ce ne fut qu’une question de temps et de puissance des machines pour que la même chose soit possible en cinéma. Le résultat n’est certes pas le même que lorsqu’il y a un travail manuel de l’artiste, mais il reste que ces traitements qui visent à déréaliser des personnages réels – tels que captés – grugent autant sur le domaine de la rotoscopie classique que plus généralement sur le rôle du travail manuel image par image.

Curieusement, ces procédures de déréalisations de données, prélevées techniquement dans le monde réel, ne sont pas essentiellement différentes de celle qui, à l’inverse, visent à synthétiser, à partir de données purement numériques, des entités mouvantes virtuellement indistingables de personnages réels. C’est toute la question des acteurs virtuels qui, misant sur des apparences réalistes crédibles pour l’œil du spectateur, peuvent entreprendre des actions impossibles pour un acteur réel. Ces considérations ne touchent d’ailleurs pas que les personnages, ils concernent tout autant le traitement de l’espace. Il est à noter que, même si tous ces processus misent toujours sur des notions de réalisme et de naturalisme, leur vecteur principal est la déréalisations et l’entremêlement de l’apparence de réalité et de la fantaisie. En ceci ils sont au cœur de la crise de crédibilité réaliste qui frappe aujourd’hui l’image photographique dans son ensemble et qui met en doute son caractère indiciel qui, il y a peu de temps, lui était spontanément accordé. Cela a à voir corrélativement avec le fait que les frontières entre l’animation et la prise de vues réelles deviennent de plus en plus floues et la définition de l’animation, notamment en terme d’image par image, de plus en plus insaisissable.

On peut aller plus loin et porter notre attention sur des territoires où les relation sont encore plus distendues entre les entités animées et les mouvements réels. Je pense ici aux pratiques toutes nouvelles de «machinema» (voir sur le web entre autres à http.machinema.com). C’est une pratique totalement surprenante qui a pris naissance récemment chez des adeptes de jeux en ligne. Il s’agit de créer des personnages animés interactifs – pour lesquelles le «motion capture» peut être une ressource parmi d’autres – puis de sqatter les environnements virtuels des jeux en ligne qui deviennent autant de décors disponibles à ces cinéastes nouveau genre. Munis d’un script et de dialogues, les divers participants, chacun avec son avatar virtuel activé à l’aide d’un contrôleur de jeu, jouent donc en direct et en ligne une action dramatique qui est simultanément enregistrée donnant lieu à une sorte de petit film instantané. Il s’agit donc d’un hybride assez curieux entre jeux en ligne, modélisation de personnages virtuels, cinéma d’animation et cinéma de fiction. Ces petits films ont en effet l’air de films d’animation – des dessins qui bougent – mais ont tout du caractère direct d’un tournage de fiction. Et c’est là l’aspect le plus intéressant de cette pratique. Plutôt que le travail de l’animateur dans son atelier qui pendant des mois, voire des années, progresse patiemment pour produire du mouvement, on a ici création de mouvement à partir de l’action directe d’un joueur avec son contrôleur de jeu. Quiconque a utilisé de tels contrôleurs sait qu’ils induisent un niveau d’implication physique et nerveux extrêmement intense et que le flux cinétique entre le joueur-animateur et son personnage est tout à fait tangible. Une frontière est ici franchie. Il est généralement admis de considérer la production de jeux d’ordinateurs comme un secteur du grand domaine de l’animation. C’est en fait une source d’emploi non-négligeable pour les animateurs. Je n’ai jamais entendu cependant qu’on pouvait considérer les joueurs comme des animateurs. Dans le cas de «machinema», cela se pose, d’autant qu’à toute fin pratique ce sont les joueurs eux-même qui créent leurs avatars. Pour ce cas, le degré de médiatisation est plus élevé que dans le cas de la rotoscopie où l’entité modélisé reproduit, à équivalence, mouvement pour mouvement, les déplacements du modèle. Également, le travail préalable de construction des avatars virtuels est considérable Cependant, il y a ici un degré d’immédiateté sans précédent dans la connexion entre l’activité physique réelle d’un agent et les mouvements synthétiques qui en résultent.

Ce phénomène de «machinema», tout comme, de façon générale, la pratique des jeux d’ordinateur ou des jeux en ligne, me semble donc constituer un point extrême dans ce que nous considérons ici. Cela peut sembler un peu étrange d’adopter un tel point de vue pour considérer la technique de la rotoscopie, à partir de l’après-rotoscopie, mais je crois que c’est la seule perspective juste. La raison en est que l’examen sur le plan des principes de ces nouveaux développements éclaire différemment toute l’histoire de la rotoscopie et toute l’histoire du cinéma d’animation.

La question de la «rotoscopie» se joue à deux niveaux, d’une part au niveau de l’appareillage technique la rendant possible et, d’autre part, au niveau de la conception esthétique du mouvement. On pourrait faire l’inventaire historique des divers bricolages techniques qui ont permis de créer les conditions de la rotoscopie. On constaterait au-delà des variations purement technique que la rotoscopie a accompagné l’animation sur toute la durée de son histoire comme une sorte de double fantomatique.

Le cas bien connu des studios Fleisher suffit pour légitimer cette affirmation. Ils ont fait un usage soutenu de cette technique. À l’époque du cinéma muet, il y a eu la série Out of the inkwell avec le personnage du clown Koko qui était joué par Fleisher lui-même, puis ce fut la série des films musicaux avec Cab Calloway qui permettait d’inclure le chanteur dans un environnement animé, et enfin le long métrage Les voyages de Gulliver où les effet stylistiques de l’emploie de cette technique ont des conséquences profondes sur le plan dramaturgique.

On peut supposer diverses motivations pour utiliser ce raccourci technique qui permettait d’éviter à devoir animer au sens strict du terme. Cette dimension d’économie de temps et de ressources productives a sans doute souvent joué un rôle comme c’est encore le cas aujourd’hui pour les dispositifs de motion control. Ces derniers permettent un haut degré d’efficacité dans la production quotidienne ou hebdomadaire de segments animés liés à l’actualité politique pour la télévision. Mais ce n’est pas l’aspect le plus intéressant.

Le plus intéressant concerne plutôt les conséquences de ce procédé sur le caractère et la valeur des mouvements qui sont ainsi créés. Il ne faut pas avoir l’œil bien exercé pour reconnaître un mouvement rotoscopé et le distinguer d’animation faite image par image sans modèle pré-filmé. L’image animée pure est en général simplifiée et stylisée, épurée de toutes les scories du mouvement réel qui pour sa part est fait le plus souvent d’hésitations et de ratées. Cette caractérisation vaut ce qu’elle vaut. Ainsi, les mouvement réels des sportifs et des danseurs , par exemple, ont une forme beaucoup plus nette que les mouvements ordinaires de la vie quotidienne. Mais il reste que l’animation n’est possible en pratique qu’au prix d’un certain émondage par l’imagination de la complexité associée aux mouvements réels. À cet égard, la rotoscopie constitue une sorte de retour du refoulé, comme s’il y avait, au sein du domaine de l’animation, un besoin de faire ressurgir son autre absolu, le mouvement réel et, en outre, de réaliser ceci à l’aide de la technologie qui se trouve au pôle opposé de spectre cinématographique, le tournage de prise de vues réelles.

À cet égard, si on se base sur les exemples sus-mentionnés, la rotoscopie de cette première époque faisait l’objet d’un jeu qu’on ne peut pas toujours réduire à l’opposition mouvement synthétique/mouvement réel, du fait que l’emploi de cette technique était immédiatement absorbé dans une construction dramatique. Ainsi, l’élégance et la subtilité des déplacements de Koko, qui lui viennent de l’usage de la rotoscopie, ne peuvent être dissociées du fait qu’au début de chaque épisode, le personnage sort d’un encrier et y retourne à la fin. L’encre est la chair du personnage dessiné. Donc cette conjonction entre l’encre, qui est la matière même du dessin, et le mouvement réel devient ici le fondement d’une construction dramaturgique qui ne se réduit pas aux seules questions de technique. Le rapport avec le mouvement réel est mis en scène et dramatisé à l’intérieur même de l’espace animé, ce qui interpelle profondément les ressorts de l’animation et compte pour beaucoup pour comprendre la singularité de cette série de films Out of the Inkwell.

La dramatisation de la rotoscopie prend un tout autre tour dans Les voyages de Gulliver. Il y a dans ce film un fort contraste entre l’animation naturaliste rotoscopée de Gulliver (ainsi que l’animation de la princesse) et l’animation carricaturale et cartoonesque des Liliputiens. L’animation de Gulliver est visiblement conçue pour s’opposer au caractère grotesque des petits personnages. La stylisation joue ici à l’envers. Gulliver est rotoscopé non dans le but stylistique de citer le mouvement brut, mais afin de projeter une harmonie naturelle, dans les proportions et les mouvements du corps, propre à notre humanité, qui contraste avec la stupidité des Liliputiens qui sont sur le point de s’engager dans une aventure guerrière. Le sens de cette construction est assez transparent lorsqu’on note que le film fut produit au début de la deuxième guerre mondiale en Europe, au moment où la France et l’Allemagne entrent en guerre et où les Etats-Unis se cantonnent dans la neutralité. Il s’agit bien du film emblématique de l’isolationnisme américain de l’époque, marqué d’un regard hautain et moralisateur sur les peuples européens. Dans ce cas, l’usage de la rotoscopie sert à distribuer différents ordres de réalité d’un point de vue moral et, du coup, à célébrer l’harmonie et la rationalité américaines.

Selon mon hypothèse, l’usage de la rotoscopie dans la constellation du «animated cartoon» , n’aurait donc pas eu pour but premier de marquer la présence du mouvement réel brut dans l’animation. Son intégration était pour ainsi dire plus harmonieuse à la fois comme ressource d’appoint d’une technique triomphante (l’animation dessinée sur celluloïd) et comme ressort dramatique bien intégré à une grande forme sûre d’elle-même. Ce n’est qu’avec «l’invention du cinéma d’animation» que les images rotoscopées vont changer de valeur et viser expressément à citer le mouvement réel brut dans l’animation, souvent sans préoccupation de justification dramatique, s’imposant comme un choix stylistique souverain. Dans ce cas, l’effet recherché était, me semble-t-il, le contraste entre l’impression de réalité cinétique et les traitements graphiques singuliers non-réalistes.

L’exemple le plus net qui me vient à l’esprit pour illustrer ce point est celui des premiers films de Georges Schwizgebel, Perspective (1975), Hors-jeu (1977) et Le ravissement de Frank N. Stein (1982), où il utilise la rotoscopie pour appliquer, sur des personnages d’abord filmés en prise de vues réelles, un traitement pictural à très grands traits. Il est remarquable que, même si Schwizgebel va ensuite de moins en moins utiliser la rotoscopie, d’où une façon plus stylisée de faire bouger les personnages, le recours initial à cette technique aura fortement marqué l’ensemble de ses films jusqu’à aujourd’hui, particulièrement au niveau du traitement de l’espace. C’est en effet une constante de son style que cette tension entre une impression d’espace très prégnante et très concrète et une matière picturale très libre et très gestuelle. Ceci me semble répondre à un paradigme totalement différent de ce qui caractérise l’emploi de la rotoscopie chez les frères Fleisher.

Bien que ce soit un cas de rotoscopie numérique, on pourrait faire des commentaires similaires au sujet du film de Paul Bush, Albatros, qui greffe, sur des images de prise de vues réelles, un traitement graphique apparenté à la gravure sur pellicule. Là aussi, le ressort esthétique tient au contraste entre la référence au réel et la matière picturale.

Dolorosa de Michelle Cournoyer repose sur ce même contraste, avec la particularité que les mouvements réels dont elle s’inspire viennent de la danse. Ce sont donc des mouvements déjà stylisés, marqués d’une intention artistique qui préexiste à l’intervention cinématographique, ce qui infléchit la valeur du recours à la rotoscopie. Comme dans l’ensemble des films rotoscopés de Michelle Cournoyer, cela laisse place à des constructions stylistiquement plus complexes. Les films de danse d’Erica Russel (Feet of Song, 1989; Triangle, 1994; Experimental Dance, 1997) soulèvent des problèmes similaires de superposition de plusieurs codes artistiques dans la même oeuvre.

Je ne puis m’empêcher de penser que, sous des dehors d’une grande libération des poncifs du «animated cartoon» sur tous les plans (le mode narratif, le style pictural, la domination des grands studios), le renversement qui a marqué l’animation dans les années soixante était déjà l’expression d’un trouble dans les ressorts profonds du cinéma et du cinéma d’animation et dans leurs rapports réciproques, trouble qui allait s’approfondir par la suite.

La télévision était déjà une donnée audiovisuelle importante qui imposait sa marque sur la production cinématographique, notamment sur la production des cartoons. Les conditions techniques de la production vidéo autonome étaient sur le point d’apparaître. Ces nouveautés techniques introduisaient un éventail grandissant de manipulations artificielles des images qui, à leur façon, contestaient ce qui, jusque-là, avait été la chasse gardée du cinéma d’animation. Un univers stylistique parallèle s’est créé jusqu’à ce que le numérique scelle cette évolution sous la forme d’une nouvelle constellation où l’indistinction entre l’animation et la prise de vue réelle est le maître mot.

Ce changement de régime dans les rapports entre images de prise de vues réelles et images synthétisées, animées ou trafiquées (ces distinctions ont bien évidemment perdu une bonne part de leur pertinence) a entraîné, outre la mutation technique, un autre renversement de valeur au sein de la rotoscopie. Cette fois-ci, l’essentiel est qu’elle ne se singularise plus. Elle se distingue de moins en moins de l’animation au sens strict qui elle-même se distingue de moins en moins de la prise de vues réelles. En tant que création d’avatars d’une réalité qui se retire, elle est devenue le cas général. Elle remplace la vieille dichotomie entre fantaisie et réalité qui caractérisait les liens entre animation et prise de vues réelles au sein du cinéma classique.

En ce sens, l’apparition du «machinema» est symptomatique, de la même façon que l’idée de la rotoscopie dans toutes les phases de l’histoire du cinéma a eu valeur de symptôme quant à la situation de l’univers médiatique par rapport au réel. Et comme tout ce qui est symptôme au sein de la pratique artistique l’est aussi en rapport avec ce qui se passe à plus grande échelle dans la vie de l’humanité, on a dans cette convulsion audiovisuelle, entre apparence de réalisme et déréalisation, le présage de quelque chose de grave qui déborde largement le petit monde de l’animation.

21/02/06