Algorithme et appareil photographique usent de la métaphore de la boite noire pour concevoir leurs système et fonctionnement. Ainsi Vilém Flusser définit les boites noires comme modèle de l’appareil photographique :

Pour le photographe c’est justement le noir de la boite qui constitue le motif à photographier. Même si, dans sa quête de possibilités il se perd à l’intérieur de son appareil, il peut maitriser la boite. Car il sait comment alimenter l’appareil (il connait l’input de la boite), et sait également comment l’amener à cracher des photographies (il connait l’output de la boite). Aussi l’appareil fait ce que le photographe exige de lui, bien que ce dernier ne sache pas ce qui se passe à l’intérieur de l’appareil : le fonctionnaire est maitre de l’appareil. Voilà ce qui caractérise le fonctionnement de tout appareil : le fonctionnaire est maitre de l’appareil grâce au contrôle qu’il exerce sur ces faces extérieures (sur l’input et sur l’output), et l’appareil est maitre du fonctionnaire du fait de l’opacité de son intérieur¹.

Par cette définition Vilém Flusser indique une différence de relation entre l’objet et son utilisateur qu’il s’agissent d’un outil ou d’un appareil. Pour lui l’appareil se définit par l’opacité de son intérieur donc par sa complexité. Il définit deux relations distinctes entre le fonctionnaire et l’appareil, le fonctionnaire contrôlant l’appareil en lui présentant des entrées (ou inputs) et en anticipant les sorties (ou outputs) — par l’expérience du fonctionnement de l’appareil ou par la maitrise de la science découlant de l’appareil. Vilém Flusser indique une différence fondamentale entre l’outil et l’appareil. Ainsi « Les outils au sens usuel arrachent des objets à la nature pour les placer (stellen) (pour les fabriquer — herstellen) là où se trouve l’homme² ». Pour Flusser l’outil déplace et transforme des objets, pour qu’ils aient des fonctions propres à l’homme, contrairement aux appareils. « Les outils au sens usuel sont des prolongements d’organe humain […] ils s’étendent au sein de la nature³ », ajoute-t-il. C’est en cela que se distingue de l’appareil : « Les appareils […] n’accomplissent aucun travail en ce sens. Leur intention n’est pas de transformer le monde, mais de transformer la signification du monde⁴ ».

Pourtant, Robbie Barrat dans Infinite Skull (2018) considère ces algorithmes comme des outils créatifs et non pas comme de véritables appareils : « La machine n’est pas créative, c’est un outil. L’art repose dans le choix⁵ », précise-t-il. Est-ce qu’il voit ces algorithmes comme outils, car il les maitrise si bien qu’il s’agit pour lui d’un prolongement de son corps, ou est-il dans l’illusion d’une maitrise ? Est-ce aussi, comme nous le verrons, parce qu’il a le « dernier mot » sur l’objet ; qu’il sélectionne les pistes créatives, qu’il est le dernier maillon discriminant du processus génératif ?
Mais L’outil pas forcément une maitrise complète, car l’accident peut persister. Le geste peut même être volontairement accidentel comme avec les techniques de dripping de Jackson Pollock. La maitrise parfaite de l’outil peut correspondre plus à de l’artisanat qu’à de l’art. Ernst Gombrich explique ainsi que les expressionnistes abstraits « […] étaient convaincus de la nécessité de s’abandonner à l’impulsion naturelle⁶ ».

Les algorithmes d’intelligence artificielle tout comme les appareils photographiques fonctionnent comme des boites noires. Mais s’agit-il du même genre de « boite noire » ? Les photographes n’ont en effet pas d’accès direct à l’empreinte. Ainsi Rouillé explique : « un cliché est toujours donné en différé, en retard. Car le déclenchement de l’obturateur ne débouche pas sur quelque chose de visible, mais sur rien ou presque : une image latente, invisible. Une promesse d’image⁷ ». Tout comme dans l’usage de l’informatique il y a une distance avec l’opération par le retard : « […] le photographe ne découvre qu’à posteriori — retard — ce qui a été capté⁸ ». Éric Sadin explique « [la computation automatisée] instaure une distance faisant “mouliner” des codes binaires durant la réalisation d’une tâche⁹ ». Il faut cependant nuancer ce propos, si à ses débuts la photographie pouvait être très empirique, les théories ont pris le pas : on retrouve beaucoup moins d’aléatoires que dans les usages algorithmiques. De plus, la distance entre la captation et le rendu est réduite par l’essor des technologies numériques.

Anna Ridler indique : « you have an idea of what will come out, but you’re not really sure¹⁰ » lorsqu’elle expérimente avec un réseau de neurones antagoniste génératif pour l’élaboration de Mosaic Virus (2019). On retrouve donc cette notion d’appareil distinct de l’outil. Elle reprend la métaphore du jardin pour définir ce processus : « it’s a whole process of watching something grow […] Human imposing of something wild¹¹ » ; la notion de « sauvage » est intéressante, car elle renvoie aussi au vivant. Pierre Huyghe dans son projet UUmwelt (2018) rapproche l’algorithme du monde vivant — suivant la notion d’umwelt (environnement) de Jakob von Uexküll. Hans Ulrich Obrist explique : « In the golden book […]: it says: “I came all the way from Birmingham and [bob?] ignored me¹² » — les spectateurs sont aussi dans un imaginaire du vivant. Aussi Douglas Edric Stanley renvoie l’algorithme à la notion de l’animal : « C’est plutôt comme élever un animal, parce que le programme se comporte bizarrement et que vous n’avez guère d’autre choix que d’accepter cette situation¹³ ».

Sofia Crespo, interviewée pour son projet Neural Zoo, explique : « Naturally, the more I learned about neural networks and computer vision, the more questions I began asking about their relationship to biology¹⁴ » — ainsi elle voit un lien entre ces deux domaines qui à priori n’ont rien en commun. Pour elle, la distinction entre la nature et la technologie peut disparaître dans le futur. Ces comparaisons montrent une forme de contradiction avec la notion de dispositif défini par Giorgio Agamben : « Il y a donc deux classes : les êtres vivants (ou les substances) et les dispositifs¹⁵ ». Le dispositif est « la manière dont sont disposées les pièces d’une machine ou d’un mécanisme, et, par extension le mécanisme lui-même¹⁶ » selon une de ces définitions. Donc, pourquoi parler d’une machine qui vit ?

Le brouillage entre le vivant et le mécanisme est en réalité intégrante aux notions de Trans humanisme — qui s’est développé dès les premières recherches en IA. « La cybernétique de Wiener reprend l’idée du mathématicien Von Neumann qu’une machine (qu’un ordinateur) puisse être comparable au cerveau humain via la métaphore de la boite noire¹⁷ ». Ainsi pour les premiers cybernéticiens : « Le premier modèle d’un réseau neuronal artificiel avait été présenté par Warren MacCulloch et Walter Pitts au symposium Hixon en 1948, un neurone axiomatisé conçu comme un calculateur basé sur la logique booléenne. Le cerveau est alors considéré comme un réseau idéalisé de neurones formels¹⁸ » — puis ce modèle se complexifie avec « [le] passage en 1970 de la dichotomie vrai/faux, trop rigide, vers fructueux/stérile¹⁹ » — c’est-à-dire proposer un modèle comprenant de la nuance avec des valeurs graduelles au lieu d’un système binaire. La cybernétique s’inspire donc des neurosciences pour proposer son modèle de réseaux de neurones ; mais le neurone artificiel reste cependant bien distinct du fonctionnement cérébral. Ainsi Jean Pierre Changeux, neurobiologiste, écrit : « Comme l’a montré le Suédois Hökfelt, plusieurs d’entre eux [les neuromédiateurs] peuvent coexister dans un même neurone, accroissant de ce fait la palette de signaux dont la cellule nerveuse dispose dans ses communications²⁰ » — donc à priori le modèle artificiel ne comprend absolument pas de subtilité liée aux neurotransmetteurs. Pour David Louapre : « Ce n’est pas de faire un modèle de notre cerveau, c’est juste une construction mathématique qui s’en inspire²¹ ».

Flusser explique que ces appareils sont « anthropomorphe²²[s] », car calqués sur une intention humaine. Cependant ils ne sont pas surhumain mais plutôt sous-humain « — ce sont des simulations exsangues et simplificatrices de processus humain de pensée²³ »

Pour Éric Sadin :

Parler de machine qui vit et pense, ou encore auto-reproductrice (Von Neumann), c’est d’un anthropocentrisme enfantin. Déclarer que la machine est dotée d’une surrationnalité « affirmant la puissance d’une pensée créatrice de ses propres normes, à la lettre fondatrice d’un nouveau monde plein de bruit et de sens » (Beane), c’est tomber dans la fantasmagorie : c’est précisément considérer encore des aspects de la technique (principalement les ordinateurs) et les pousser à l’extrême comme si c’était cela qui était le réel²⁴.

C’est une posture auparavant tenue par Catherine Malabou, mais dont les évolutions en sciences cognitives (l’épigénétisme²⁵) et en sciences informatiques ont reformulé sa vision : « J’ai longtemps pensé que la plasticité neuronale interdisait toute comparaison entre le cerveau “naturel” et la machine. Or les dernières avancées de l’Intelligence artificielle, avec le développement des puces “synaptiques” en particulier, ont rendu cette position plus que fragile²⁶ ». Anthony Masure essaie de déconstruire cette notion d’une IA comme outil strict ou comme entité autonome. Il désigne deux mythes à déconstruire : « […] que l’artiste (ou le designer) aurait le contrôle total sur sa production²⁷ » et « […] que la machine serait totalement autonome²⁸. » On se retrouve dans un système d’interaction entre l’artiste et la machine et dans une démarche très itérative et empirique.

La démarche empirique n’est pas uniquement liée au « statut » des artistes qui détournent ces technologies à leur fin. Harrison Kinsley, lors de son tutoriel sur l’application d’un filtre deepdream indique en commentaire :

layer 1: wavy

layer 2: lines

layer 3: boxes

layer 4: circles?

layer 6: dogs, bears, cute animals.

layer 7: faces, buildings

layer 8: fish begin to appear, frogs/reptilian eyes.

layer 10: Monkies, lizards, snakes, duck²⁹

Il indique sous forme de pseudocode les différents rendus possibles par le modèle : le layer (— calque, couche) étant un paramètre réglable lors de la phase de prédiction de l’algorithme. Dans le billet de blog rédigé par les chercheurs de Google sur le deepdream, on retrouve des descriptions d’éléments caractéristiques générés depuis une image de nuage : « The Dog-Fish », « The Pig-Snail » ou encore « Admiral Dog³⁰! ».

On retrouve bien l’aspect expérimental : les descriptions de Google sont farfelues, et Kinsley n’est pas sûr du rendu du layer 4 qu’il note avec un point d’interrogation. Le lien avec l’appareil flusserien apparait évident : avec certains input : l’image, les paramètres, le fonctionnaire a une vague idée du résultat, mais il demeure une zone d’ombre sur l’output final. Il faut cependant bien distinguer le résultat de la boite noire. Un fonctionnaire — un photographe — par sa dextérité et son expertise — connait le résultat, il n’y plus vraiment de « zone d’ombre ».
Il y a une différence fondamentale dans la construction de la boite noire flusserienne qui est associée est un procédé mécanique complexe à la boite noire cybernétique qui est associée à une construction « synaptique ».

Pour Flusser, la relation homme-appareil dépasse largement celle de l’outil qui n’est qu’un prolongement du corps, il écrit : « Voilà une fonction d’un nouveau genre, où l’homme n’est ni constante ni variable, mais où l’homme et l’appareil se confondent pour ne faire plus qu’un³¹ » — la relation homme-appareil est donc une forme de collaboration entremêlée.
Plus encore qu’une collaboration, l’usage de la technique produit une plus grande distance avec l’homme : « […] la première [la pratique magique] engageant l’homme autant que possible, la seconde [la technique mécanique] le moins possible³² », ainsi Benjamin exprime une distanciation de plus en plus forte de l’engagement de l’homme à travers la technique mécanique : dont le zénith serait atteint par l’usage d’intelligence artificielle — pour laquelle les décisions sont autonomes. Vilém Flusser appuie cette exclusion de l’homme dans la technique : « Les appareils ont été inventés pour fonctionner automatiquement […]. Mettre l’homme hors-circuit : telle est l’intention qui les a produits³³ ».

La métaphore de la boite noire met en exergue le caractère ambigu et imprévisible que peut avoir l’algorithme. Mais il faut cependant comprendre que les algorithmes de deep learning peuvent produire des objets extrêmement différents ; il faut étudier ces potentialités des algorithmes pour pouvoir en comprendre la portée.