Titre

Cookie (Smartelligence)

Description

Le dispositif Cookie imaginé dans l’épisode « White Christmas » de la série Black Mirror se présente comme étant capable de copier la mémoire d’un individu. L’idée est de créer un double numérique d’une personne afin que celle-ci puisse être utilisée via une interface, dans un but domotique ou policier par exemple. Dans le premier cas, une riche cliente nommée Greta (Oona C. Chaplin) fait appel à la compagnie Smartelligence afin de faire « cloner » sa mémoire : elle souhaite que sa copie artificielle (appelons-la Greta 2.0) puisse gérer sa maison connectée et son emploi du temps à sa place. Le dispositif doit par exemple la réveiller le matin, faire couler le café, ouvrir les volets et gérer ses rendez-vous. L’intelligence artificielle alimentée par les données de Greta « connaît » les goûts de cette dernière et peut devancer ses moindres envies. L’intelligence artificielle répond en fait aux commandes vocales en langage naturel. Pour être utilisé, cet assistant personnel à l’allure ovoïde doit être préalablement configuré. C’est Matthew Trent (Jon Hamm), à l’emploi de la firme Smartelligence, qui est chargé de régler le programme algorithmique relié au réseau des appareils ménagers. Matthew doit expliquer à Greta 2.0 son rôle et lui indiquer comment se comporter. Cependant, le problème réside en ce que la Greta 2.0 est une intelligence artificielle forte qui possède une « conscience », notamment du temps qui passe, et qui peut souffrir. « You’re a simulated brain full of code, stored in this little widget we call a cookie. […] You see, what this is, it’s a service. We take a blank cookie and we surgically implant it into a client’s brain. It sits there just under the skin for about a week, shadowing. Soaking up the way this particular mind works. That’s why you think you’re you. You are you. But also not. » (32:57) Si l’IA se rebelle ou ne répond pas aux attentes, Matthew a pour tâche de la discipliner à l’aide d’un programme informatique de torture basé sur l’ennui. Il l’isole alors du monde pour une durée plus ou moins longue et celle-ci se retrouve désœuvrée. Quelques minutes dans la réalité de Matthew équivalent à six mois pour l’IA. En l’espace de quelques minutes, qui ont paru durer une éternité à Greta 2.0, Matthew parvient ainsi à la « configurer », c’est-à-dire à l’assujettir totalement. L’épisode présente par ailleurs un deuxième cas de double numérique. Un procédé technologique similaire est utilisé afin de faire parler la copie numérique de Joe Potter (Rafe Spall), un détenu qui s’est terré dans un mutisme complet. Rendant service à la police, Matthew est chargé de récolter les aveux du double numérique de Joe par le biais d’un monde artificiel simulé lui permettant de s’entretenir en face-à-face avec lui. Croyant être à la période de Noël, attablé devant un repas chaud dans un chalet nordique assez reculé, le double numérique de Joe en vient à se confier à Matthew, ignorant non seulement le piège qui lui a été tendu (c’est-à-dire qu’il se trouve dans une réalité virtuelle), mais aussi qu’il est en fait une « copie » indépendante de la « conscience » de Joe, lequel se trouve toujours en prison. Grâce au Cookie et à la manipulation psychologique exercée par Matthew, des aveux ont été extorqués sans le consentement du prisonnier.

Monde fictionnel

Tibbetts, Carl (réalisation); Brooker, Charlie (scénario), Black Mirror, saison 2, episode 4 : « White Christmas », Royaume-Uni, 2014, 73 min.

Mots-clés

usage policier
usage utilitaire
aveux forcés
contrôle
identité de terminal
cyberconversion
réalité virtuelle
légal