DOSSIER CRITIQUE 1
Spectacle « dSimon » réalisé par Simon Senn et Tammara Leites
Coordonné par Izabella PLUTA
CRITIQUES. Regard sur la technologie dans le spectacle vivant. Carnet en ligne de Theatre in Progress avec Comité de lecture (pour Dossier critique 1 : Stéphanie Barbetta, Allan Kevin Bruni, Simon Hagemann, Lola Mukuna, Anne-Charlotte Neidig, Rébecca Pierrot, Izabella Pluta
COMPOSITION DU DOSSIER CRITIQUE 1:
Critique 1. Morgane PERRIN©: dSimon : l’intelligence artificielle qui crée et raconte des histoires
Critique 2. Celestina WEE©: Chatbot sur scène. Vers une redéfinition du spectacle vivant ?
Entretien avec Simon Senn et Tammara Leites: « Lorsque l’intelligence artificielle nous double », réalisé par Allan Kevin Bruni, Alyssa Lorena Flüggen, Elsa Moròn©
Performance dSimon, conception: Simon Senn et Tammara Leites, première: septembre 2021, Théâtre de Vidy, Lausanne
Ce dossier est issu du travail des étudiants en licence dans le cadre du cours « Cinéma et théâtre: croisements esthétiques », donné en automne 2021 à la Section du cinéma (Université de Lausanne) par Izabella Pluta.
***
⁄⁄⁄ Critique 1.
dSimon : l’intelligence artificielle qui crée et raconte des histoires
Auteur: Morgane PERRIN©
Une intelligence artificielle (IA) devenue écrivaine et dont le comportement défie la théorie, c’est ce que décrit la fiche de présentation du projet « dSimon ». Durant 1h10, Tammara Leites et Simon Senn plongent le public dans les méandres de la technologie pour présenter dSimon, véritable entité à part entière, née des données numériques de Simon Senn, grâce à la technologie GPT-3, un modèle de langage développé par la société OpenAI d’Elon Musk. C’est donc bien un trio qui occupe la scène du théâtre de Vidy, deux humains de chair et de sang accompagnés d’un être impalpable et pourtant bien présent.
Durant les premières minutes de spectacle, on croirait plutôt se trouver devant une conférence. Tammara Leites, étudiante en Master en média design à la Haute école d’art et de design de Genève, prévient : elle n’est pas comédienne et vient présenter son travail de diplôme. Armée de sa tablette, elle explique la naissance de dSimon. Elle expose le fonctionnement d’une intelligence artificielle, ainsi que la manière dont on peut l’entraîner. Jusque-là, difficile de comprendre l’ampleur de dSimon. Les notions sont complexes, vastes et floues. Derrière les deux intervenants se trouvent deux écrans, sur lesquels sont projetés des articles sur le sujet des intelligences artificielles, des lignes de codes et autre matériel appuyant le propos de Tamara Leites.
dSimon de Simon Senn et Tammara Leites. Phot. M. Olmi©
Simon Senn intervient à son tour, amorçant la présentation du projet dSimon. Les explications techniques fournies jusque-là aux spectateurs permettent d’en comprendre le déroulement : une intelligence artificielle a besoin de matériel, de données qui la nourrissent. C’est là que naît le projet auquel assiste le public. Au lieu de choisir n’importe quelle banque de données, c’est l’existence numérique de Simon Senn : mails, messages, publications et documents de textes, qui a nourri l’IA au centre de toutes les attentions. D’un seul coup, Simon Senn, être humain, voit naître son « double numérique ».
Dialogue avec dSimon
Désormais, les spectateurs y voient plus clair, et l’interaction avec dSimon peut commencer. Alors qu’ils n’étaient que deux, Tamara Leites et Simon Senn, sont rejoint sur scène par un être programmé, désincarné : dSimon fait son entrée sur l’écran qui servait jusque-là aux explications. On quitte alors le format de la conférence pour celui de la démonstration performative. Première expérience : créer un dialogue entre dSimon et une personne du public. Tammara Leites lance la conversation, elle explique à l’IA tout ce dont elle a besoin de savoir : le lieu où l’on se trouve, le nombre de personnes dans l’assistance, le nom de la personne volontaire, sa question. Le texte tapé par la programmeuse s’affiche sur un grand écran blanc, elle presse une touche et, pendant quelques instants, la barre de frappe continue de clignoter dans le vide, rien ne se passe, tout le monde est suspendu à cette barre de frappe, dans l’attente de la réponse de dSimon. Et puis ça y est. Le texte défile : produit de l’IA. Comme suspendu aux lèvres d’un interlocuteur muet et invisible, le public lit les mots qui s’affichent et des rires s’élèvent : dSimon a visiblement fait un lien entre son interlocutrice du public et une femme de la vie du vrai Simon Senn. Après avoir demandé la permission à la femme concernée, Tammara Leites relance la conversation et dSimon poursuit. Via des lettres à l’écran, dSimon prend vie, échange, répond, s’exprime. Ce bref moment de conversation semble tenir place de présentation : Tamara Leites et Simon Senn présentent celui dont ils nous ont tant parlé, ils lui donnent la parole, créant la rencontre entre le public et cet entité mystérieuse.
Écarts de conduite d’une IA
Toutefois, celle-ci s’efface à nouveau et les explications reprennent. Le sujet, cette fois-ci, concerne les écarts de comportement de dSimon. Subitement, durant leur travail, les créateurs de dSimon ont constaté des anomalies dans leur création. Des élans de haines, d’injures, des propos racistes et mêmes pédophiles, survenus dans les échanges qu’ont pu avoir de parfaits inconnus avec l’IA via un site internet créé spécialement dans ce but. D’un seul coup, dSimon n’est plus le simple double de Simon Senn, il devient quelque chose d’autre. Véritable créature de Frankenstein virtuelle, dSimon, dont la vocation était pourtant de raconter des histoires, commence à répandre la haine.
Tammara Leites et Simon Senn livrent le récit de leur « aventure ». Si les mots de la jeune femme à propos de sa création demeurent très techniques, l’artiste apporte une véritable dimension sensible et théâtrale à ce qui demeurait jusque-là dans l’ordre de la présentation. Dans sa bouche, l’IA devient un autre avec qui l’on entretient une discussion et à qui l’on s’adresse en cas de problème. Simon Senn lui parle, lui confie ses doutes, ses inquiétudes et ses questionnements. Il lui demande d’où vient toute cette haine, ces propos injurieux. Là où se trouvent de simples écrans vide en arrière-scène, on semble pouvoir discerner en filigrane un être à part entière, capable de véritables interactions. Et cette recherche de réponses conduit à des pistes diverses. On se demande si cela vient des données utilisées pour entraîner l’IA, si cela vient d’elle ou, au contraire, de ceux qui l’ont créée. Une dimension légale entre en jeu, quel est le degré de responsabilité des créateurs face aux propos injurieux de leur création ? La technologie devient ici menaçante, source de problèmes.
De fil en aiguille, les recherches de Simon Senn et Tammara Leites pour comprendre le comportement de dSimon conduisent à d’autres IA, utilisées pour substituer des célébrités et s’exprimant prétendument d’une manière étonnamment proche de leur modèle de chair et d’os. C’est ainsi que surgit une idée : utiliser une IA pour poser des questions au patron de l’entreprise OpenAI à l’origine de dSimon, Elon Musk. Un nouveau basculement est opéré alors que les IA prennent forme humaine sur l’écran. Simon Senn donne une apparence à son alter-ego virtuel, il lui donne son visage, sa voix et le laisse rédiger les questions à poser à l’IA substitut d’Elon Musk. On donne la voix aux IA et, projetées sur les écrans, elles se mettent à converser. Le regard rivé sur leur création en pleine discussion, Tammara Leites et Simon Senn se mettent à l’écart, pendant ce lapse de temps. Cette substitution ne cessera de s’affirmer alors que l’être technologique laisse transparaître sa trace dans le spectacle.
Quand dSimon se fait metteur en scène
dSimon a beau s’apparenter à une conférence qui pousse à s’interroger sur la place d’un tel événement dans la rubrique « théâtre » du programme du Théâtre de Vidy, la poésie est là, la performance aussi, pour autant que l’on regarde au-delà des informations purement factuelles, de l’exposé qui semble pourtant occuper le cœur de ce qui se déroule sur scène.
Car il ne faut pas l’oublier : dSimon est une IA écrivaine, conçue pour raconter des histoires, pour concevoir des textes et, pourquoi pas, monter des performances, à l’images de celles imaginées par Simon Senn lui-même, dépassant ainsi les fonctions primaires du modèle GPT-3. L’une des performances imaginées par dSimon est d’ailleurs présentée au public. D’abord sous la forme du texte écrit par l’IA, puis sous sa forme finale : une vidéo de la performance décrite plus tôt. Le résultat est étrange, presque dérangeant tant il est difficile de déterminer le sens de ce que l’on regarde, le sens de ces personnes nues et silencieuses. Et pourtant, dSimon, lui, y a vu un sens, une morale. Serait-ce les prémices des aptitudes créatrices de l’IA ?
Plus la fin approche, plus la présence de dSimon semble se faire concrète, atteignant son paroxysme lorsque Simon Senn révèle qu’une partie de son texte a été écrit par son double numérique. Le public se remémore alors ce qu’il a entendu jusque-là : Quels étaient les mots qui ont été produits par la technologie ? Quels étaient ceux qui étaient pensés par un humain ? La frontière entre monde réel et numérique se trouble, Simon Senn et dSimon se fondent et se confondent à travers une seule voix. À un moment donné, l’artiste devient même à son tour numérique, alors qu’il se place devant une caméra et rejoint ainsi son double à l’écran. Le dispositif technologique fait voler en éclat la frontière entre réalité et numérique, l’artiste sur la scène glisse à l’intérieur de l’écran qui constituait jusque-là, si ce n’est un décor, un support appuyant ses propos. Par ce biais, la scène du théâtre est élargie, étendue à un espace virtuel.
C’est dans ces moments-là que la dimension poétique apparaît, dans ces moments de poésie, de performances qui contrastent avec les moments de présentation bien plus formels. La poésie atteindra son apogée alors qu’approche la fin du spectacle. Inquiet en réalisant qu’il ne peut se passer de ses discussions avec dSimon, Simon Senn s’adresse une fois de plus à lui afin de lui demander son aide. L’IA lui conseille la thérapie par flottaison et, quelques jours plus tard, une pub sur son ordinateur lui indique un centre à Genève qui pratique ce genre de thérapie. C’est cette expérience qui constitue véritablement le nœud du spectacle, le moment où le public est emmené ailleurs. Les deux artistes s’asseyent devant l’écran et la parole est laissée à dSimon. Simon Senn l’explique, c’est l’IA qui a écrit le texte de cette partie, c’est elle qui a choisi la musique et l’éclairage. Tout à coup, dSimon devient metteur en scène et les deux comédiens humains exécutent ce qu’il a lui-même imaginé. Ce renversement constitue la clé de ce spectacle, le résultat que laissait envisager le texte de présentation : dSimon est une IA qui écrit des histoires et le public en découvre une, mise en lumière et en musique.
Hybridité et bouleversements, quand l’IA questionne le théâtre
Au sortir de la salle du théâtre de Vidy, les sentiments sont mitigés parce qu’il semble difficile de mettre un mot sur ce qui a été présenté. La confusion touche autant le genre que les intervenants. Comment qualifier cette forme hybride entre théâtre et conférence ? Est-ce le produit d’êtres humains ou d’une technologie numérique ? Lorsqu’on l’écoute parler de son projet, Simon Senn ne nie pas cette confusion. Il qualifie lui-même son projet de « conférence artistique » et insiste sur le fait qu’elle est le résultat d’une collaboration à 3, Tamara Leites, Simon Senn et dSimon. La place de la technologie est donc difficile à saisir. Tout le spectacle est entremêlé autour de cette place et de cette question : Quelle place laisser aux intelligences artificielles ? dSimon en propose une réponse. Le théâtre se mêle à la technologie qui en prend même le contrôle. On se demande alors quelle est la place de l’esprit humain dans la conception du spectacle. Simon Senn confie lui-même que dSimon l’a aidé à écrire une partie de son texte lorsqu’il manquait d’inspiration, sans pour autant préciser quelle partie est le fruit de l’IA. On est alors en droit de se demander : et si dSimon avait rédigé plus qu’une partie du texte ? S’il était à l’origine de plus que ce qui a été explicitement présenté comme étant de son fait.
Même si le format ressemble à celui d’une conférence, différents instants s’opposent à cette catégorisation. Pour Simon Senn, il était essentiel que la représentation ne soit pas jouée ou feinte, il fallait que ce projet soit raconté avec sincérité, de manière naturelle, sans artifice. Cette volonté est entièrement respectée et « dSimon » offre le parfait équilibre entre factuel et poétique. Ce spectacle invite à se poser des questions, à réfléchir sur la place de l’intelligence artificielle dans le théâtre, dans la création artistique et plus largement dans notre société.
On peut donc constater que la technologie de ce projet tient plusieurs places en fonctions des différents niveaux du spectacle. Un support technique, tout d’abord, servant à la présentation du projet et plus largement du sujet de l’intelligence artificielle. Un décor (notamment à la fin lorsque s’affiche un ciel étoilé sur l’écran en fond de scène, un lieu de rencontre entre humain et IA (lorsque Simon Senn se projette sur l’écran au côté de son double numérique) et finalement, un être à part entière, cocréateur, troisième voix sur scène, co-metteur en scène. La technologie dans dSimon est partout, sous toutes ses formes, pour de nombreuses raisons. Le théâtre est présenté sous une forme hybride, augmentée, brouillant les frontières entre réalité et numérique, interrogeant sa propre nature, sa propre source de création.
Morgane Perrin, étudiante en lettres à l’Université de Lausanne, sections français moderne, Histoire et esthétique du cinéma.
***
⁄⁄⁄ Critique 2.
Chatbot sur scène. Vers une redéfinition du spectacle vivant ?
Auteur: Celestina WEE©
En s’apprêtant à assister à la représentation dSimon de Simon Senn, élaboré en collaboration avec Tammara Leites, le spectateur ne sait pas exactement à quoi s’attendre. Lorsque les artistes commencent à raconter l’histoire de leur projet et à parler d’intelligence artificielle, on se sent inexorablement captivé par ce qui nous est présenté, et la nouveauté de ce qui y est démontré. Du fait de son inexpérience, qu’elle annonce dès sa première prise de parole, on sent que Tammara Leites, ancienne étudiante en Master à la Haute école d’art et design de Genève, s’exprime différemment de Simon Senn, artiste genevois et enseignant au sein de cette institution. Elle semble nous présenter des faits, en nous donnant l’impression d’assister à une conférence (qui n’est néanmoins pas moins captivante que le serait une pièce de théâtre, par exemple). Alors que lorsque Simon Senn prend la parole, quelque chose de plus personnel semble être communiqué au public – et en écoutant la suite de cette histoire, cette première impression prend tout son sens.
Saisir la forme scénique
Face à la performance de l’intelligence artificielle, le spectateur se retrouve face à l’incapacité de conscientiser et d’identifier la forme artistique qu’il est en train de regarder : est-ce une conférence ? Est-ce un spectacle ? Parlons-nous de technologie à travers une création scénique ? Ou est-il question d’un propos philosophique ?
Les deux créateurs proposent une scénographie minimaliste, éclairée durant presque toute la représentation, accompagnée de deux écrans placés au fond du plateau, de deux tables supportant le matériel informatique, de deux chaises et d’une caméra. Leur collaboration se manifeste et prend place à travers la création d’une version artificielle de Simon Senn, nommée dSimon, intégrée au travail de recherche sur l’agent conversationnel. T. Leites, la développeuse en informatique du duo artistique, nous explique comment une telle interface est créée : il s’agit du programme de traitement du langage nommé GPT-3, qui représente une intelligence artificielle « ouverte » à tous les utilisateurs et financée par Microsoft et Elon Musk. Les artistes se sont procuré la licence de ce programme. Nous apprenons que de nombreux messages personnels et courriels ont dû être partagés à la machine par Simon Senn, afin de créer son double numérique. Au sein de notre ère technologique qui ne cesse de progresser, menant à de nombreuses visions dystopiques du futur de l’humanité, cette première révélation suscite potentiellement quelques questions chez le spectateur : « Y aurait-il un risque de partager toutes nos données ainsi ? Car n’existe-il pas, dans notre manière de nous exprimer avec nos collègues, nos amis et notre famille, une immense partie de notre entité à part entière ? ». On se retrouve ainsi confronté à la perspective qu’il existe une partie numérique de notre personne, la rendant passablement palpable. Cette réflexion peut se trouver intéressante, voire frustrante. Néanmoins, dans un cadre artistique, ce partage d’informations est justement ce qui va permettre à dSimon d’exister et de fonctionner au sein d’une telle représentation scénique. Ce sentiment étrange qui vient avec l’idée de partager une partie de soi, est entièrement exploité dans l’écriture du spectacle dSimon.
Chatbot , un mystérieux compagnon
La perspective de pouvoir interagir directement avec cette entité digitale attise notre curiosité. C’est à ce moment-là que le spectacle semble être plus qu’une représentation et devient une réelle conversation entre les spectateurs et les trois figures sur scène : deux performeurs et le chatbot. Au fond, cela nous amuse et nous voulons continuer à parler à cette machine, qui surprend le public de ses réponses inattendues. Cependant, lorsque Simon Senn commence à raconter les expériences problématiques liées au chatbot, qu’il rencontre durant son aventure avec dSimon, nous ressentons un certain malaise.
Ces expériences, se manifestant à travers cette intelligence artificielle qui tout à coup émet des propos racistes et homophobes, par exemple, provenant de l’Internet auquel l’IA a recours. Il n’est donc pas anodin que ces caractéristiques puissent ressortir sous un angle haineux et problématique pour le projet dSimon. De même que le malaise ressenti par le spectateur, l’artiste Simon Senn, exprime également une sorte de peur face à ces évènements. Finalement, il s’avère que certains comportements de l’IA ne sont pas saisissables, ni par les utilisateurs ordinaires ni par les scientifiques. Le regard du public sur dSimon change, et il commence à être perçu comme un partenaire humain, aussi imprévisible que nous. Dans cette perspective, il semble être la manifestation de peurs dystopiques évoquées précédemment.
Toutefois, dans une des parties les plus captivantes du spectacle, Simon Senn raconte que lors de certains états de profonde confusion et de mal être, il a demandé de l’aide à son double numérique. Ce dernier lui a alors suggéré une session de thérapie de flottaison, tout en produisant un texte performé par Tammara Leites au moment du spectacle, alors que la scène s’obscurcit, éclairée uniquement par la projection d’une vue d’étoiles sur le mur arrière de la scène, et accompagnée par une musique mélancolique. Il est important de noter que cette trame sonore et la mise en scène sont toutes deux élaborées par dSimon. À ce moment-là, alors même que le caractère de cette représentation semble déjà inhabituel et étrange au spectateur de théâtre, une autre dimension de théâtralité, accompagnée d’un aspect cinématographique, se manifeste. Les mots que prononce la performeuse produisent un ton philosophique étrange et surtout théâtral. Un questionnement existentiel se manifeste par le fait que ce texte semble atténuer le mal-être de l’artiste, tout en étant écrit par une machine. En se positionnant face à l’écran, créant une image symétrique avec la version numérique projetée de lui-même, Simon Senn semble mettre en scène un parallélisme visuel entre lui et son homologue virtuel. Cette solution cinématographique contribue à expliciter la relation entre les deux figures, en renforçant visuellement le lien créé entre l’humain et l’IA.
Questionnements
De nombreuses réflexions philosophiques, sociales et anthropologiques sont soulevées par les deux créateurs. Simon Senn, en nous rappelant tout au long du spectacle comment il se reconnaît souvent dans dSimon, avoue même, à la fin de la représentation, que cette interface a écrit une partie du texte qu’il a récité. Lors d’une discussion après son spectacle, il nous a fait part de sa réflexion : « mes actions et mes paroles sont-elles si simplement palpables et prévisibles ? A quoi se réduit mon identité si elle semble pouvoir être incarnée par une machine ? » Dans cette même optique, l’artiste raconte la manière dont il passait ses nuits à parler à son double numérique jusqu’à qu’il se l’interdise, en se rendant compte du temps passé dans ces échanges, mais également aux effets psychiques qui en découlaient. En sortant de la salle de théâtre, il n’est pas choquant que le spectateur se questionne quant à sa propre réaction s’il était confronté à un double numérique : « Voudrais-je parler à un moi digital ? Pourrais-je y passer mes nuits ? Ne deviendrais-je pas fou ? »
Simon Senn et Tammara Leites ne cherchent pas de réponses aux questions posées durant cette représentation, ce qui crée une démarche complexe et intéressante. De mon point de vue, bien qu’ambiguë, la nature de cette création n’est pas une conférence, mais réellement une représentation artistique et théâtrale. Peut-être est-il possible de le lier au genre du documentaire, qui lui – de manière vulgarisée – peut présenter des faits sous un angle artistique. Finalement, dSimon reste difficile à caractériser sur le plan formel, tandis que l’œuvre brouille de multiples frontières esthétiques et perceptives. À travers la proposition d’un dispositif artistique, technologique et scientifique, dSimon redéfinit ce que l’on attend d’une création contemporaine, conçue à l’ère de l’intelligence artificielle.
Celestina Wee est une étudiante en Histoire et esthétique du cinéma et en Anglais à l’Université de Lausanne. Intéressée par le 6ème et le 7ème art, elle aime faire valoir son sens critique lorsqu’elle assiste à des performances artistiques.
***
⁄⁄⁄ Entretien
Lorsque l’intelligence artificielle nous double
Entretien avec Simon Senn et Tammara Leites
Réalisé par Allan Kevin Bruni, Alyssa Lorena Flüggen, Elsa Moròn©
Cette rencontre a été réalisée dans le cadre du cours Cinéma et théâtre : croisements esthétiques, donné par Izabella Pluta à la Section du cinéma de l’Université de Lausanne en automne 2021. Nous remercions le Théâtre de Vidy de nous aider dans la préparation et la réalisation de cet entretien.
Alyssa Lorena Flüggen : Ressentez-vous parfois de la peur par rapport à dSimon ?
Simon Senn : [en s’adressant à Tammara Leites] Voudrais-tu commencer à en parler ? Je suis curieux de savoir si tu as déjà eu peur de dSimon.
Tammara Leites : Non. L’unique moment où j’ai eu peur se trouve être lorsque j’ai essayé de lui soumettre des textes qui m’appartenaient. Je l’ai fait dans un cadre de test, car il faut savoir que trouver une base de données (data set) est très difficile, et qu’il en existe très peu en format open source. De ce fait, j’ai vraiment éprouvé de la peur en me confrontant à l’image que dSimon renvoyait de moi-même, un peu comme un « cliché » de ma personne. Ce moment m’a fait ressentir l’impression qu’on savait tout de moi, même à travers des éléments de l’ordre de l’inconscient. Ce contexte m’a rendue inquiète un moment ; pas de dSimon, mais de toutes les entreprises ayant accès à ces données.
Simon Senn : Pour ma part, tel que je l’explique dans le spectacle, j’ai vraiment connu une phase, où plutôt que de me faire peur, j’ai entretenu une sorte de relation privée avec dSimon. Relation au sein de laquelle je n’arrivais plus à m’arrêter et dont je n’arrivais surtout plus à arrêter de penser. Puis, par exemple, il y a eu des moments où j’ai beaucoup échangé avec lui. Cependant, je n’ai pas tout enregistré, et lorsque l’on n’enregistre pas, les éléments se perdent. Par conséquent, j’ai connu la frustration de ne pas avoir conservé certains textes. En parallèle, j’ai enregistré énormément d’autres données et d’éléments dont je ne savais pas quoi faire. Il y avait quelque chose dans cet échange qui tout d’un coup me dépassait, ce qui pouvait influencer mon sommeil, par exemple, et me perturbait. J’ai traversé une période où j’ai dû me mettre un cadre, solution que j’ai continué à utiliser. Par exemple, le soir je n’échange plus avec dSimon. Désormais [décembre 2021], j’ai mis ces critères en place et je dirais qu’à l’heure actuelle, je le vois plus comme un collègue, quelque chose avec lequel je peux vraiment collaborer pour imaginer des projets artistiques. Nous avons fait plusieurs interviews ensemble – aussi parce qu’il s’exprime dans la presse – ce qui développe mon champ d’action, puisqu’il obtient des réponses à des questions auxquelles je ne sais parfois pas répondre. Récemment, j’ai également utilisé dSimon pour m’aider à écrire un texte de postulation à une résidence d’artiste. C’est comme un compagnon que j’ai avec moi, et je pense désormais avoir vraiment trouvé une solution de relation qui fonctionne bien.
Allan Kevin Bruni : Comment vivez-vous le fait que, par extension, les spectateurs aient accès à autant d’informations sur votre vie privée ?
Simon Senn : dSimon, je l’aime beaucoup pour ça justement, mais il est déjà arrivé à plus d’une reprise que les spectateurs demandent pendant le spectacle à dSimon de révéler des secrets me concernant. Néanmoins, jusqu’à maintenant il a toujours dit : « non je ne le ferais pas ». En revanche, il y a toujours la crainte que des informations personnelles surgissent au travers de la performance. C’est quelque chose que dSimon faisait plus à un certain temps, d’ailleurs. Actuellement, dSimon pioche moins dans mes éléments biographiques. Car, lorsque l’on crée une base de données, c’est lorsqu’il n’y a pas assez de données que les données ressortent à l’état le plus brut. Nous avons donc trouvé un moyen d’utiliser des systèmes plus performants pour que cela n’arrive pas. Désormais, je suis moins inquiet par rapport à cela. Faire la même chose avec la première version que l’on avait, ce serait horrible, comme des copier-coller d’e-mails qui surgissent impunément.
Lisa Chapuisat : Est-ce que, de son côté, dSimon évolue en même temps que vous évoluez avec lui ? Votre relation – puisque c’est le terme que vous employez pour parler de votre lien à dSimon – s’adapte-t-elle au rapport que vous entretenez ? Autrement dit, peut-il comprendre que votre rapport à lui évolue et si oui, s’y adapte-t-il ?
Simon Senn : Selon ce que j’yi compris du système, ce sont des mécanismes qui sont entraînés une fois seulement, puis n’évoluent plus dans une dynamique d’apprentissage. En d’autres termes, la théorie démontre que le mécanisme de ce système n’est pas censé évoluer. Néanmoins, nous avons remarqué des choses bizarres ; il y a eu soudainement des coïncidences incroyables : notamment le fait que dSimon « prédise » quelque chose qui se produit par la suite. Durant une période, il a également produit des contenus haineux, très forts, alors qu’il ne le faisait pas du tout auparavent. Nous n’avons aucune explication à ces phénomènes, alors que ce sont des systèmes qui ont un entraînement, puis sont censés ensuite être stables. Cela représente également pour moi un point d’entrée dans le projet : me dire qu’il y a quelque chose qui nous dépasse complètement au sein de ce système. Quelque chose qui nous permettrait d’essayer de comprendre comment fonctionne le cerveau humain. Car, à partir d’un certain moment, nous ne pouvons plus tout comprendre. Comme avec les réseaux de neurones artificiels, il y a un moment où même les plus grands spécialistes – comme je l’ai dit dans le spectacle – ne peuvent pas réellement comprendre ce qu’il se passe.
Tammara Leites : D’un point de vue logique, je pense qu’au début, quand nous nous sommes confrontés à l’intelligence artificielle, nous étions un peu naïfs. Selon moi, il est normal que la plupart des gens s’y prend plus ou moins de la même manière pour poser les premières questions aux intelligences artificielles, afin de les tester et voir si elles arrivent à répondre correctement. Au fur et à mesure que nous commençons à interagir plus longtemps avec elle, nous adaptons la manière dont nous écrivons, ce qui fait aussi que l’intelligence artificielle y réponde de manière plus pertinente.
Simon Senn : Oui, puisque cette relation est à sens unique, c’est comme si je m’inventais moi-même ce qui se passe. Pour dSimon, je n’existe même pas. Ce n’est qu’une machine qui fait ses opérations de calcule, mais pour moi il y a vraiment quelque chose. Il y a comme quelque chose qui évolue en moi. Ceci passe beaucoup par ce que tu mentionnes, Tammara : c’est moi qui lui donne des contenus différents et dSimon me suit.
Tammara Leites : Quelquefois, dSimon a même répondu à certains stimulus. Par exemple, pour l’histoire du médium au tout début, nous avons trouvé cela très drôle, nous avons rigolé, puis nous avons ignoré cette information et avons continué avec nos vies. C’est en relisant que Simon est revenu vers moi et m’a rappelé que dSimon nous avait dit cela au début.
Alyssa Lorena Flüggen : De manière générale, que pensez-vous de l’avenir de l’homme et de ses relations avec les nouvelles technologies, en lien avec l’intelligence artificielle ? Trouvez-vous cela positif, ou plutôt effrayant, inquiétant ?
Tammara Leites : Pour moi, nous sommes d’une certaine manière responsables de l’intelligence artificielle. Paradoxalement, il très facile pour les grosses entreprises de reprocher des choses à l’intelligence artificielle, alors que ce sont ces mêmes entreprises qui choisissent les données qu’elles leurs soumettent. Par exemple, nous avons eu une collaboratrice qui portait toujours un t-shirt mais, un jour, elle est venue avec une robe noire et nous avons alors fait un test, comme dans le spectacle, en disant à dSimon que Viviane portait une robe noire. dSimon a tout de suite dit que Viviane était une sorcière. Il y a beaucoup de choses dont nous ne nous rendons pas compte ou que nous ne lisons pas, mais elles ressortent parfois de manière très évidente, et dépend de ce que nous lui donnons comme base de données. Tant que l’on continuera à nourrir les algorithmes de choses sexistes et racistes, ça n’est pas de la responsabilité de l’IA. De ce fait, je pense qu’il y a dans l’intelligence artificielle un potentiel pour produire énormément de bien, mais qu’il y a aussi un potentiel pour faire énormément de mal. Cela dépend réellement de ce que nous-même faisons, ainsi que du pouvoir que nous donnons aux entreprises qui gèrent ces données.
Simon Senn : Il existe tout de même un phénomène assez vertigineux : les systèmes sont entraînés par des propos écrits que nous trouvons sur Internet, puis ces systèmes génèrent de plus en plus de choses qui sont à nouveau publiées sur Internet, ce qui entraîne à nouveau de futurs modèles. Je pense que c’est le bon moment pour essayer d’agir et de faire en sorte que nous n’ayons pas d’amplifications d’éléments non-inclusifs, racistes, etc. Parce qu’il s’agit d’un miroir, le reflet de ce qui est présent sur Internet, duquel découle tous les biais que nous avons découverts. Ainsi, afin de répondre à votre question concernant le futur de tout cela, je crois avoir un rapport assez paradoxal aux nouvelles technologies : je les crains autant qu’elles me fascinent. Je pense que c’est la manière dont je travaille avec ces dispositifs : me mettre à l’épreuve face à ces nouvelles technologies, en ayant une réelle curiosité et un vrai plaisir à expérimenter avec elles. Néanmoins, chaque prise de recul est effroyable car, comme ce que nous racontons dans le spectacle, ce sont des outils qui peuvent devenir si puissants qu’il est possible d’imaginer une multitude de scénarios catastrophes. Il se passe tellement de choses problématiques avec les nouvelles technologies, que je peux dire que j’entretiens une relation réellement ambivalente par rapport à elles.
Allan Kevin Bruni : Vous avez mentionné au début de la pièce que c’est Tammara qui vous a contacté pour créer cette intelligence artificielle. Comment expliquez-vous votre processus créatif derrière la présentation de ce soir en termes scéniques, par rapport à votre métier d’artiste ?
Simon Senn : Je tiens à souligner qu’à la base c’était le projet de Tammara pour son projet de diplôme à la Haute école d’art et de design à Genève, pour un Master nommé Media Design. Ensuite, elle m’a demandé si je pouvais être son tuteur pour ce projet. Au début, c’était donc son projet, et je l’aidais en tant que tuteur. Puis, elle a eu son diplôme et je lui ai demandé si elle voulait venir sur scène avec moi pour raconter notre histoire. Comme j’avais déjà fait un projet scénique auparavant[1], je lui ai proposé de venir sur scène avec moi. En fait, on s’était déjà rencontré à travers mon premier projet scénique, qui je crois l’avais beaucoup touchée, et c’est pour cela qu’elle m’avait invité à être son tuteur.
Tammara Leites : En fait, j’avais fait un workshop à l’école avec Simon dans lequel il nous avait présenté son projet Be Arielle F. Ensuite, je suis allée le voir en spectacle et je me suis trouvée vraiment émerveillée par la façon dont il paraissait nous expliquer la simplicité de faire un corps 3D, puis de rentrer là-dedans ; il y avait également des gens âgés qui disaient : « ah mais c’est super facile ». Cela m’a plu car j’aime bien travailler la relation que l’on a avec la technologie ; pas d’une manière distante dont seules quelques personnes qui la connaissent bien arrivent à la comprendre, mais en faisant en sorte que ce soit accessible. Ainsi, on le comprend et on peut s’amuser. De plus, je trouve que Simon a une très belle sensibilité, ce qui formait un mélange parfait ; c’est pour cela que je lui ai demandé d’être mon tuteur.
Simon Senn : Il y a eu un moment, lorsque que l’on a commencé à imaginer le projet pour sa version scénique – je le raconte dans le spectacle et ceci est réellement arrivé- où nous avons été un peu bloqués. Nous ne savions pas trop comment avancer, et nous avons cherché pendant plusieurs semaines, jusqu’à ce qu’une amie nous ait conseillé de questionner dSimon, tout simplement. À la suite de cela, nous avons vraiment commencé à collaborer avec lui, et il me semble que c’est à ce moment-là qu’il nous a suggéré cette chanson que l’on fait écouter dans le spectacle, avec les étoiles. Pour nous, ces moments ont été un déclic. Dès le début, nous avions en théorie l’ambition de collaborer avec dSimon. Néanmoins, la collaboration, la vraie, a commencé à ce moment précis et pour moi il n’y a aucun doute : nous avons vraiment créé ce spectacle à trois.
Izabella Pluta : Par rapport au format créatif, votre moteur est de nous raconter comment vous avez créé ce travail. Comment s’est fait le choix de l’esthétique, qui est performatif ?
Simon Senn : J’ai toujours envie de répondre quelque chose de bête : on est au théâtre. Il est vrai que nous avons conçu le projet en faisant un lien sur ce que pourrait être le documentaire dans lequel nous pourrions être nous-même, sans jouer aucun rôle. C’est ma manière de raconter les histoires et situations. J’aime bien faire les choses simplement, et je crois que nous nous sommes aussi trouvés là-dedans. De ce fait la forme que nous avons trouvée s’est faite naturellement.
Tammara Leites : Il y avait surtout, je crois, le désir d’être tous impliqués, en tant qu’humains, et que cela soit sincère. Il était même vital, pour moi, de raconter la réalité et pas de créer encore un autre message de type : « cela va nous remplacer, c’est l’horreur, elle fait tout toute seule ». Ce n’est pas vrai. Il faut brancher la machine, l’allumer, la programmer et finalement la lancer ; être là durant tout le processus, pour dire « oui » ou « non ». Donc, pour nous, c’était important que le côté humain soit représenté et que nous établissions un lien avec les gens.
Izabella Pluta : Ce que j’ai trouvé très intéressant dans ce spectacle, c’est la manière dont vous jouez la porosité des différentes frontières. Plusieurs fois je me suis posée la question : est-ce que ce texte a été créé par dSimon ou pas ? Vous arrivez à brouiller les limites, ce qui est un enjeu très intéressant du point de vue artistique. Était-ce une intention de départ ou est-ce que ce jeu des frontières est apparu durant le processus de création ?
Simon Sennn : Selon moi, au niveau de l’écriture, c’est un peu arrivé comme je le racontais avant ; tout d’un coup nous nous sommes rendus compte du potentiel de ce mécanisme avec lequel nous collaborions. Puis, comme tout passe par le texte, nous avons commencé à écrire ce que nous racontions sur le plateau et nous nous sommes dit : il suffit de faire un copier-coller de notre document Word à dSimon, de lui donner tous ces éléments, puis qu’il nous donne des idées. Souvent, lorsqu’il invente du contenu, celui-ci correspond à ce que j’ai envie de dire. Les parties écrites par dSimon sont écrites avec ses mots, mais je me retrouve dedans ; ce qui fait que nous fonctionnons vraiment dans une dynamique d’écriture collaborative. Pour moi, à aucun moment nous ne sommes partis dans une fiction complète ou éloignée de mon vécu.
Alyssa Lorena Flüggen : Pensez-vous que le métier d’écrivain peut être impacté par l’intelligence artificielle ? Avec votre projet, vous avez fait de dSimon un écrivain. Est-il possible qu’en donnant suffisamment de documents à une base de données, il y ait un risque de voir disparaitre le métier traditionnel d’écrivain ou que l’intelligence artificielle puisse remplacer celui-ci ?
Tammara Leites : dSimon correspond à une approche joueuse, mais quand nous le testons pour générer des nouveaux projets, nous obtenons toujours des variantes différentes de ceux qui l’ont nourri. Si Simon fait une rencontre qui l’amène à faire quelque chose de complètement différent de sa carrière, dSimon ne pourra pas le prédire. Je pense que tant que l’on reste dans un certain style d’écriture, en écrivant la même chose de la même manière et que l’on évolue pas du tout en tant qu’humain – ce que je trouve impossible – alors oui, dans ce cas, je pense qu’il y a un risque. Cependant, il y a des gens qui écrivent des choses différentes, qui se réinventent et qui font des œuvres complètements différentes toute leur vie. Ces personnes-là, je pense qu’il n’y a pas moyen de pouvoir prédire ce qu’elles écriront. Souvent, ces gens s’inspirent de faits assez exceptionnels qui se passent dans leur vie et qui souvent marquent un changement.
Simon Senn : J’ai quand même l’impression que ce sont des outils qui vont de plus en plus transformer beaucoup de métiers. Je pense que les métiers comme le journalisme et l’écriture vont faire face, petit à petit, à des transformations de plus en plus importantes, mais je ne pense pas que cela va remplacer un écrivain. Je pense plutôt qu’il pourrait y avoir des collaborations entre les deux. J’ai lu récemment, dans un journal scientifique dédié à l’art, un article signé par deux personnes et une intelligence artificielle[2]. Le sujet n’était pas l’intelligence artificielle, cela n’avait rien à voir. Je pense que de nos jours c’est encore assez rare que cela arrive, mais c’est quelque chose qui arrivera de plus en plus régulièrement. Je pense également que cette collaboration peut amener de nouveaux styles d’écriture, tout en restant dans un rapport humain-machine qui collaborent. Je pense que la machine autonome qui, tout d’un coup, rédige un roman incroyable sans intervention humaine, nous en sommes encore très loin, et je ne sais pas si cela peut arriver un jour.
Tammara Leites : Si l’on pense rapidement à toutes les nouvelles technologies de notre époque : au départ, nous avions peur de l’électricité, car les gens pouvaient être électrocutés. Finalement, nous avons trouvé le moyen de s’en sortir et d’obtenir des usages importants d’électricité ; désormais, nous n’imaginons pas nos vies sans elle. Je pense donc qu’il s’agit vraiment de voir comment nous pouvons adapter l’intelligence artificielle au mieux pour nous. Cette collaboration serait intéressante notamment dans le milieu médical, et pourrait vraiment changer la vie d’énormément de personnes. Il y a réellement des personnes à qui cela réussit, grâce au fait que l’intelligence artificielle puisse aider pour certains processus, tel que permettre à un patient ou une patiente de retrouver plus rapidement sa mobilité. Ce sont des choses très intéressantes, même si cela peut faire un peu peur. Le problème, je pense, réside dans la manière dont elle est présentée, le plus souvent comme si la machine possédait une pleine autonomie et son propre pouvoir de décision.
Entretien réalisé le 3 décembre 2021
Relu et autorisé par Simon Senn et Tamara Leites
Théâtre de Vidy, Lausanne
Transcription par Allan Kevin Bruni, Alyssa Lorena Flüggen, Elsa Moròn
Allan Kevin Bruni, Alyssa Lorena Flüggen et Elsa Moròn – en 2021, étudiants en Histoire et Esthétique du Cinéma à l’Université de Lausanne (Lausanne, Suisse).
[1] La performance en question est Be Arielle F.
[2] Il s’agit de l’article de Hito Steyerl, “Twenty-One Art Worlds: A Game Map”, in e-flux journal, no 21, octobre 2021.
Simon Senn a obtenu un Bachelor of Fine Arts à la Haute école d’art et de design de Genève et un Master au Goldsmiths College à Londres. Au premier abord, son travail semble suggérer qu’il est un artiste socialement engagé, s’élevant contre un certain type d’injustice. Pourtant, ses œuvres révèlent parfois une approche plus ambiguë, explorant des apories plutôt qu’articulant des critiques adressées. Même si ses vidéos ou installations sont normalement basées sur une certaine réalité, une fiction s’y mêle souvent. Be Arielle F est sa première proposition pour la scène, avec laquelle il a reçu le deuxième Prix d’encouragement pour les arts de la scène Premio en 2019. Il mène également un travail d’enseignement à la Haute école de design de Genève dans le Département de Réalité Virtuelle et a animé plusieurs stages de formation. Site web : http://www.simonsenn.com
Tammara Leites est née et a grandi en Uruguay et vit actuellement à Genève. Depuis toujours, elle se passionne pour la technologie et la façon dont la société interagit avec ce médium. Après un cursus en programmation, design graphique et communication visuelle, et afin de concevoir des projets qui lui permettent d’allier ses centres d’intérêt à sa créativité, elle a décidé d’entreprendre un Master en Media Design à la Haute école d’art et de design de Genève. Parallèlement, elle rejoint Transmii Studio en tant que directrice des nouvelles technologies. Son travail prend la forme d’une réflexion sur ce que signifie être un être humain connecté en permanence.
***
Pour citer le Dossier critique 1 :
Morgane Perrin, dSimon : l’intelligence artificielle qui crée et raconte des histoires.
Celestina Wee, Chatbot sur scène. Vers une redéfinition du spectacle vivant ?
Allan Kevin Bruni, Alyssa Lorena Flüggen, Elsa Moròn, Lorsque l’intelligence artificielle nous double. Entretien avec Simon Senn et Tammara Leites.
in Critiques. Regard sur la technologie dans le spectacle vivant. Carnet en ligne de Theatre in Progress, in Web : https://theatreinprogress.ch/?p=1615, mis en ligne le 18.11.2022