Ceci est une traduction du texte « Vulgar Display of Power » par tante, publié originellement en anglais. Le texte est sous licence CC-BY-SA, ce qui autorise la traduction. Il revient sur l’appropriation par OpenAI du travail d’Hayao Miyazaki.

Hayao Miyasaki est le co-fondateur du Studio Ghibli, un studio d’animation japonais connu dans le monde entier pour leurs impressionnantes, émouvantes et magnifiques histoires et films. Au cœur du travail du Studio Ghibli, on retrouve un engagement profond pour les questions relatives à l’humanité : à propos de ce que cela signifie d’être un humain, de comment prendre soin les uns des autres et du monde qui nous entoure. Mais aussi à propos des niveaux de cruauté dont l’humanité est capable – et comment il demeure toujours de l’amour et de la grâce même sous de pareilles conditions. L’œuvre du Studio Ghibli est unique, que ce soit dans sa qualité forgée au fil des années, et dans son style artistique très reconnaissable.

Hayao Miyazaki est également connu pour la réaction qu’il a eue face à une poignée de technocrates qui lui présentaient ce que nous appelons aujourd’hui « IA », et qu’ils avaient utilisé pour générer des figures mouvantes se voulant « effrayantes » :

Sa réaction face aux fiers développeurs lui montrant l’animation d’une chose qui utilise sa tête pour se déplacer, en affirmant que « L’intelligence artificielle peut nous présenter des mouvements grotesques que nous autres humains ne pourrions pas imaginer », est très éloquente :

« Tous les matins, à l’exception de ces derniers jours, je rends visite à un ami qui a un handicap. Ca lui est extrêmement difficile rien que d’essayer de faire un high five ; son bras aux muscles raides ne peut pas atteindre ma main. A présent, en pensant à lui, je ne peut pas regarder ce truc et le trouver intéressant. Quiconque a créé cette chose n’a aucune idée de ce que c’est que la douleur.

Je suis absolument dégoûté. Si vous voulez faire des choses effrayantes, eh bien allez-y, mais je ne souhaiterais jamais incorporer cette technologie dans mon travail. Jamais. J’ai vraiment le sentiment que ceci est une insulte à la vie elle-même. »

Hayao Miyazaki

Il termine sa tirade par une remarque cinglante sur ce à quoi il vient d’assister :

« J’ai la sensation que nous sommes proches de la fin des temps. Nous, humains, perdons la foi en nous-mêmes. »

Hayao Miyazaki

Alors, bien sûr, il ne s’agissait pas encore des systèmes d’IA modernes, comme ceux que Microsoft, OpenAI, Anthropic, etc, essayant de vendre (avec peu de succès économique). Mais son argument s’appliquerait de la même manière : « Quiconque a créé cette chose n’a aucune idée de ce que c’est que la douleur ». Ou la joie. Ou l’amour. Ou la faim. Ou l’attente. Ou le manque. Ou le besoin. Ou le désir. Toutes ces parties de nous, qui définissent notre humanité, et notre manière d’interagir avec le monde. Les choses qui suscitent notre attention, qui nous poussent à agir, à découvrir quelque chose. Dire quelque chose, et entendre quelque chose.

Pendant longtemps, les systèmes d’OpenAI empêchaient les utilisateurs de générer des images dans le style de certains artistes. C’était, bien entendu, pour des raisons de droits d’auteurs : ils n’avaient pas envie d’être attaqués en justice (encore plus qu’ils ne le sont déjà). A présent, il y a facilement la possibilité de générer des trucs dans le style du Studio Ghibli, et Sam Altman s’est créé une image de lui-même version ghiblifié, pour son avatar sur X (le réseau social nazi).

Et je pense qu’à ce stade, David Gerard a raison de dire qu’il s’agit d’une tentative de distraction par rapport à leurs problèmes d’argent :

« OpenAI doit faire de plus en plus d’annonces pour donner l’impression aux investisseurs que cette entreprise reste cool et intéressante. N’importe quelle merde fera l’affaire, que ça soit un robot écrivain de fiction littéraire, ou autre. »

David Gerard

Mais à mon avis, les choses vont encore plus loin. Il y a une raison pour laquelle ils ont choisi le Studio Ghibli en particulier. Bien sûr, leur style est super mignon, super unique, mais ce n’est pas tout. Ce n’est pas qu’ils ont choisi un truc mignon, et par accident il se trouvait que le co-fondateur de ce studio détestait du fond de son cœur leur approche. OpenAI a choisi exprès le Studio Ghibli, précisément parce que Miyazaki déteste leur approche.

C’est une démonstration de pouvoir : Toi, en tant qu’artiste, en tant qu’animateur, qu’illustrateur, qu’écrivain, que n’importe quel type de personne créative, toi, tu es impuissant. Nous allons prendre ce que nous voulons et en faire ce que nous voulons. Parce que nous pouvons le faire.

Parce que nous le pouvons. C’est l’idée de la loi du plus fort. La bannière sous laquelle tous les gouvernements totalitaires et fascistes se rallient. OpenAI n’est heureusement pas un gouvernement, mais leurs idées, leur mode de pensée, ont influencé de nombreux gouvernements tout autour du globe. « Si nous ne sommes pas autorisé à prendre tout ce que nous voulons sans payer pour et en allant à l’encontre de la volonté des gens, alors nous ne pourrons jamais créer le Dieu machine qui nous sauvera de tous nos problèmes« .

L’initiative d’OpenAI est une manière de tester quelle sera la réaction à leur violation explicite d’une nouvelle frontière, en allant à l’encontre de la volonté des personnes sur lesquelles ils utilisent leurs machines. Et nombre de citoyens semblent s’en réjouir, transformant leurs photos de vacances en image « style Studio Ghibli ».

Le spécialiste de l’autoritarisme Timothy Snyder (qui vient juste de démissionner de son poste à l’université de Yale pour partir à Toronto, dans une réaction pas très subtile à la montée du fascisme aux Etats-Unis), a écrit son livre « On Tyranny » pour nous donner 20 leçons sur comment réagir et résister aux mouvements tyranniques. La prmeière règle est : « N’obéissez pas à l’avance« .

C’est pourtant ce que beaucoup font déjà. Se soumettre par avance à ces logiques d’injustice et de domination. Parce que ça la fait bien sur Instagram, ou parce que « ce sont juste des images ». Mais c’est une soumission à une logique de domination par ceux qui ont le pouvoir. C’est une soumission des droits démocratiques. C’est une soumission à une vulgaire démonstration de pouvoir.

Et c’est pourquoi la Maison Blanche utilise cette technologie pour [avertissement de contenu : démonstration obscène de violence] illustrer leur cruauté à l’encontre des migrants. La cruauté est le point essentiel. Mais il en va de même des autres formes de violence dont ils font la démonstration.

Auteur du texte original : tante

Ce travail est sous la licence suivante : Creative Commons Attribution-ShareAlike 4.0 International License.