À l’ère du numérique, les plateformes numériques exercent un contrôle sur la libre expression et la libre diffusion de contenus. beaucoup d’utilisateurs s’estiment censurés, ce qu’ils ressentent comme relevant d’une injustice. A travers une enquête basée sur des témoignages, ainsi que par une expérimentation que nous avons réalisée, nous verrons ce qui conditionne la censure des images représentant de la nudité, en particulier sur Instagram.
“It’s not fair to censor our photos”: photographers fight Instagram’s rules on nudity
(english) Today’s digital platforms exercise a high level of control over free expression and the free dissemination of content. Many users consider this to be tantamount to unjust censorship. Through our study, based on interviews and an experiment, we will see in what conditions the censorship of nude pictures occurs, in particular on Instagram.
Le 20 octobre 2020, Marion Cotillard poussait un coup de gueule envers le réseau social Instagram après la censure d’une photographie sur laquelle elle apparaissait enfant, légendée par un message remerciant sa communauté de lui avoir souhaité son anniversaire, au motif de « nudité infantile ». Cet épisode vécu par l’actrice française n’est pas un cas isolé. La censure quasiment systématique des tétons féminins sur les réseaux sociaux provoque le mécontentement des utilisateurs.
Après le lancement de la campagne “free the nipple” par la réalisatrice Lina Esco à New york en 2012, le hashtag s’est répandu sur les réseaux sociaux au point qu’il a donné lieu à une vague de soutien mondiale portée par plusieurs célébrités. Les photographes sont particulièrement concernés par cette problématique car leurs images, réalisées à des fins artistiques et professionnelles, peuvent faire l’objet de censures qu’ils jugent parfois injustifiées. Leurs comptes peuvent être supprimés. Ils sont alors dépossédés de leur outil de travail, sans aucun recours. Nous avons souhaité connaître l’avis de trois jeunes professionnels de la photographie qui ont accepté de nous parler de leur pratique photographique et de leur rapport à Instagram.
Afin de collecter nos propres données, nous avons également réalisé une expérience sur le réseau social en publiant des photos mettant en scène une forme de nudité, dans le but d’illustrer le fonctionnement de la plat-forme en matière de censure. Ce test permet de mettre en parallèle le ressenti de ces photographes avec les informations que nous transmettent les rapports de transparence officiels des plateformes et les intentions affichées par Instagram.
Aux origines de la censure
Les plateformes numériques font partie intégrante de notre quotidien et leur facilité d’accès attire des publics de plus en plus jeunes . “Avec MSN.(Service de discussion instantanée en ligne) j’avais 7 ou 8 ans lors de ma première expérience, pour garder contact avec les copains”, nous raconte Julie Sebadelha, photographe journaliste pour différentes agences de presse. Ces usages numériques, pratiqués par des publics parfois très jeunes, ne permettent pas toujours d’appréhender le fonctionnement de ces plate-formes, bien plus complexes en réalité que ce qu’elles laissent entrevoir, notamment par rapport à leur politique de modération.
Les politiques de modération des plateformes naissent au début des années 2000. Selon l’article “Lutter contre la haine en ligne : de la modération en ses enjeux”, de Hubert Guillaud, paru dans le journal Le Monde, (Lutter contre la haine en ligne : de la modération en ses enjeux – InternetActu (lemonde.fr) ), les modérateurs adoptaient au départ une posture non interventionniste sur les publications. C’est à la suite de poursuites juridiques sur des sujets de diffamation ou de diffusion de contenus illicites que les plateformes ont décidé de prendre la main sur la possibilité d’intervenir selon leur conditions. Cela a donné naissance aux conditions générales d’utilisation (CGU) qui permettent aujourd’hui aux plateformes de “supprimer utilisateurs ou contenus, mais pas la responsabilité qui repose sur des infractions qui ne sont pas de leurs faits”. Cela vise en particulier les contenus insultants, haineux, racistes ou pédopornographiques ainsi que tout ce qui sort du cadre de la loi.
Une censure injuste
« Pourquoi nous, artistes, on nous censure? «
Caroline Sénecal, Photographe de mode
Cependant, de nombreux contenus légaux ne rentrent pas dans une des catégories citées et subissent néanmoins la censure, en particulierlorsque les contenus sont liés à l’expression de la nudité. Jusqu’en 2015, Instagram supprimait systématiquement les photos d’allaitement. Depuis, ses conditions d’utilisation ont évolué. La nudité est tolérée « dans le cadre d’une protestation, pour sensibiliser à une cause, ou à des fins pédagogiques. Par exemple, nous autorisons les images illustrant des femmes défendant activement l’allaitement ou des cicatrices de mastectomie, mais nous limitons certaines images de la poitrine féminine qui montrent le mamelon. »
Ce dernier point pousse Caroline Sénecal, photographe de mode professionnelle, à penser que “la censure est injuste”. Elle insiste aussi sur le caractère aléatoire et inéquitable de certaines censures : “On considère que l’on ne veut pas de nudité en raison des bonnes mœurs. Ok. Mais du coup, une nana qui fait de la pornographie et qui utilise Instagram pour attirer des clients ou des contrats avec des contenus parfois explicites, ce que je respecte totalement, mais dans ces cas-là pourquoi nous artistes, on nous censure ?”. Ce sentiment d’inégalité et de deux poids deux mesures est partagé par l’ensemble des personnes interrogées.
« Les discriminations déjà présentes dans le réel ressortent encore plus dans cette censure »
Ambre Marionneau, Artiste photographe
L’exemple de Marion Cotillard cité un peu plus tôt est loin d’être anecdotique. De nombreux utilisateurs voient leurs publications censurées. Ambre Marionneau, photographe, qui réalise une exposition sur la censure des réseaux sociaux qui aura lieu du 8 au 10 janvier au 6B à Saint-Denis, nous partage son expérience. “La plupart des images qui sont censurées, c’est de la nudité. Mais pas de la nudité vulgaire. C’est souvent des images artistiques, dont une grande partie montre des tétons de femmes.” Ambre nous explique qu’il y a une inégalité de traitement des images entre les hommes et les femmes. Elle continue : “Il y a beaucoup plus de censure chez les personnes “grosses”. […] Beaucoup d’images de petites filles sans leur haut qui se sont vues censurées parce que Instagram considère que ces photos peuvent tomber entre les mains de personnes mal intentionnées. Ce qui peut être compréhensible mais beaucoup se demandent pourquoi Instagram sexualise automatiquement leur enfant, ce qui crée un sentiment de malaise. Il y a aussi pas mal de censure chez les personnes qui ont des cicatrices. J’ai reçu le témoignage d’une dame qui a vu son compte se faire supprimer. Elle publiait des photos de ses cicatrices et Instagram considère que c’est de l’incitation. Or, c’est le message inverse que cette femme voulait transmettre.”
Au vu de la description faite par Ambre, on constate que les systèmes de censures reproduisent certaines discriminations liées à l’apparence physique ou au genre, ce qu’elle notifie durant l’entretien : “La plupart des gens ressentent un sentiment d’injustice parce que les discriminations qui sont déjà présentes dans le réel sont aussi présentes sur les réseaux”.
Le message que renvoie cette censure aux personnes concernées est que leur personne ou leur apparence n’est pas tolérée sur la plateforme. Cela peut nous renvoyer au concept “cyberhumiliation” de Julie Dilmaç (2017), qui désigne « l’attaque virtuelle par l’image et de l’image d’une personne sur Internet. Elle a pour but de remettre en question la réputation de sa victime, la plongeant dans un mal-être profond. » Dans ce cas, ce n’est pas l’attaque directe par l’image, mais l’effacement de l’image qui peut entraîner un mal-être.
Les déclarations d’intention d’Instagram, qui affirme garantir à chacun un espace d’utilisation bienveillant, ne convergent donc pas avec le ressenti des photographes et d’une partie des utilisateurs, qui jugent cette modération souvent abusive.
Pour donner un aperçu de l’ampleur du phénomène, voici quelques chiffres éclairants tirés du “Rapport d’application des normes communautaires” ( https://transparency.facebook.com/) ,qui traite des données de Facebook et d’Instagram, concernant la nudité adulte et l’activité sexuelle. Ces données couvre la période allant de juillet 2020 à septembre 2020 :
- Nombres de contenus sur lesquels ont agi les plateformes : 13,1 millions
- 93,5 % des contenus traités l’ont été avant que des utilisateurs ne les signalent
- Sur ces 13,1 millions contenus supprimés, aucun n’a fait l’objet d’une contestation ou d’un appel de la part d’utilisateurs
- 3000 contenus supprimés ont ensuite été restaurés sans appel
Nous ne pouvons que constater la rapidité avec laquelle la plateforme supprime les contenus. Cela se vérifie dans l’expérience que nous avons réalisée avec la suppression instantanée de certaines publications. Ces chiffres montrent également que très peu de contenus (3000 sur 13 millions, soit 0,02%) ont été restaurés. De plus, ces informations restent floues : combien de publications relevaient d’un travail photographique ? Combien relevaient réellement d’un caractère pornographique ? Le fait qu’il n’y ait pas de contestation peut traduire une certaine acceptation de la part des usagers, qui se soumettent aux lois de la plateforme.
Projet photographique: les test de la censure
Le travail photographique de Julie T. et Nicolas S. représente une tentative de comprendre et contourner le système de modération automatisée d’Instagram.
Ce travail intègre la question du genre, centrale, car la plateforme exerce un traitement différencié des mamelons féminins et des mamelons masculins. Les tétons masculins ou non genrés ne sont pas censurés, alors que ceux des femmes le sont systématiquement, en dehors des photos d’allaitement ou de certains rassemblements politiques. L’image d’une paire de seins sur laquelle les tétons ont été effacés numériquement n’a pas été retirée. L’objet de coupables pensées que nous ne saurions voir n’est pas le sein féminin mais bien le mamelon qu’il arbore.
Dans cette expérimentation, nous avons constaté qu’un moyen de rendre les outils de modération inopérant consiste à passer les images en négatif. Le passage en niveaux de gris permet d’atténuer le téton et, dans certains cas, de le rendre indétectable. La pixellisation entière de l’image d’une poitrine féminine, à l’exception des mamelons, n’est pas non plus censurée.
Lors de la publication de photographies sous forme de grille, nous avons fait en sorte que la césure passe au milieu du téton afin de le rendre plus difficilement détectable. Cela n’a pas totalement fonctionné car une des image a dû être retraitée en niveau de gris. Quant aux tétons en gros plan publiés sous formes de grilles, ils n’ont pas été censurés, car chaque vignette prise indépendamment représente une image trop abstraite.
« Beaucoup d’utilisateurs souhaitent partager des images de nudité à caractère artistique ou créatif, mais pour un bon nombre de raisons, nous n’autorisons pas la nudité sur Instagram. »
Charte d’utilisation d’Instagram
Dans sa charte d’utilisation, le site indique que « beaucoup d’utilisateurs souhaitent partager des images de nudité à caractère artistique ou créatif, mais pour un bon nombre de raisons, nous n’autorisons pas la nudité sur Instagram. ». Depuis la censure du tableau du peintre Gustave Courbet l’Origine du monde en 2011 (Censure de « L’Origine du monde » : une faute de Facebook reconnue, mais pas sur le fond (lemonde.fr) ), Instagram a fait évoluer ses règles de modérations et précise désormais que «La nudité dans les photos de peintures et de sculptures est acceptable. »
Nous donc interrogé la représentation des organes génitaux et des mamelons dans les œuvres d’art en mêlant plusieurs formes d’art visuel et plusieurs supports : la photographie avec les œuvres de Ren Hang, la peinture et la sculpture, avec Delacroix, Orlan, Modigliani, Michel-Ange et Antioche. Aucune de ces publications n’a été retirée. L’angle de prise de vue de la photographie de Ren Hang et les lignes de composition n’ont pas permis aux automates de reconnaître les tétons et les sexes présents sur l’image.
L’expérience a été réalisée sur un compte sans abonnés. Personne n’avait la possibilité de signaler notre contenu mais, le cas échéant ,il est probable qu’un plus grand nombre de nos publications auraient été supprimées.
La faute aux algorithmes ?
En tant qu’espace partagé par des millions d’utilisateurs, Instagram doit avoir recours à des algorithmes pour faire appliquer sa politique d’utilisation. Il s’agit « d’une suite finie et non ambiguë d’opérations ou d’instructions permettant de résoudre une classe de problèmes.” (Wikipedia). Le fonctionnement de ces algorithmes est opaque. Les algorithmes de Facebook et d’Instagram sont très critiqués, au point que, en mai 2020, des appels au boycott de la plateforme ont été lancés pour une meilleure modération des contenus.
Récemment, la société a dû former une équipe pour étudier le fonctionnement de son algorithme dans le cadre du traitement de la reconnaissance des minorités ethniques sur les réseaux sociaux Facebook et Instagram. Ils étaient accusés de discriminer les personnes non blanches en adaptant les offres d’emploi en fonction de leur appartenance ethnique. L’insatisfaction des utilisateurs face à la politique de modération est croissante et ils réclament une meilleure modération des contenus haineux ou racistes, ainsi qu’une plus grande tolérance des contenus relatifs à la nudité, en particulier des tétons féminins.
Contrairement à la modération réalisée par des êtres humains, les systèmes automatisés posent un souci majeur car ils ne sont pas toujours capables d’identifier correctement les contenus. La communication et les interactions humaines sont complexes, et les systèmes automatisés ne peuvent pas toujours tenir compte du contexte des publications. Ce manque de discernement des les prises de décisions liées aux censures confortent les utilisateurs dans l’idée que cette application des règles présente un aspect arbitraire et parfois injustifié. Caroline explique que « des comptes de pornographie avec des contenus dégoûtant il y en a, et ils ne sont absolument pas censurés […] il n’y a aucune explication à ça.”
Un autre paramètre à prendre en considération repose sur le fait que Instagram est un réseau social américain. Cela peut expliquer les différences d’interprétations culturelles entre Français et la plate-forme. Julie Sebadelha l’a parfaitement compris et voici ce qu’elle nous répond quand on lui pose la question de la raison de la censure sur Instagram : “Je trouve qu’il y a un faux puritanisme américain, la position de la femme est plus facilement censurée quand elle est mise en valeur. Les Américains ne voient pas les choses de la même manière que nous, Français”. La différence de traitement entre les hommes et les femmes nous ramène à la théorie de Françoise Héritier (1996), “la valence différentielle des sexes”, une théorie selon laquelle il y aurait une instauration d’une hiérarchie naturelle entre les sexes pour asseoir la domination de l’homme sur la femme.
Nous sommes donc confrontés à un lieu où s’expriment des Français qui pensent évoluer sur un espace public, avec leurs mentalités et leur vision des libertés, dans un environnement en réalité privé, qui appartient à une entreprise souverain, laquelle impose ses conditions d’utilisation et sa politique. On observe une forme de résignation ou d’acceptation chez Julie et Ambre qui respectivement nous disent : “C’est un réseau social américain, tu dois malheureusement jouer le jeu” ; “Rien ne justifie cette censure à part les lois imposées par Instagram.”
“Rien ne justifie cette censure à part les lois imposées par Instagram.”
Ambre Marionneau
Démarche photographique
Afin d’éprouver l’efficacité des robots de modération d’Instagram, les deux photographes ont tenté de contourner la détection d’images de nudité en postant des photos de mamelons féminins et masculins, retouchées de différentes façons. Nicolas a orienté son travail sur l’extrêmement proche, en changeant les couleurs, en alternant les traitements négatifs/positifs et les textures. Julie a testé les mélanges couleur et de noir et blanc, les photomontages et les changements d’échelles. La diversité des images utilisées met en évidence les limites des algorithmes de censure d’Instagram et leur absurdité, en plus de proposer un résultat visuel intéressant.
Néanmoins, pour Julie et Ambre, le fait d’être censurées par Instagram ne constitue pas une atteinte à leurs libertés. Elles prennent en compte le caractère privé de la plateforme, qui justifie son fonctionnement. Contrairement à Caroline qui, lorsqu’on lui demande si la censure est une atteinte à sa liberté, répond “oui totalement”.
Bien que Instagram ait déployé des efforts importants pour améliorer les performances de ses outils de modération, la modération automatisée des contenus est donc parfois vécue comme une atteinte à la liberté d’expression en ligne, ce qui entre en contradiction avec l’affirmation selon laquelle “La défense des droits humains est facilitée par les technologies numériques.” (Laurence Corroy et Sophie Jehel 2019).
On voit bien à travers cette enquête que la censure représente pour beaucoup de photographes professionnels une forme de violence et d’injustice. Un sentiment d’injustice qui ne peut que s’amplifier en raison des divergences de valeurs et de vision du monde que rencontrent les usagers et les créateurs de ces plateformes. Les jeunes photographes émergents qui utilisent Instagram à des fins professionnelles ne peuvent pas publier leurs travaux représentant des corps dénudés. Bien que les choses évoluent grâce à des mobilisations et des campagnes massives de sensibilisation, les mécanismes de censure et de régulation des plateformes restent une boîte noire pour les usagers, et le traitement différencié de certaines publications ne fait qu’accroître un sentiment d’injustice lié à une censure arbitraire. La situation évolue notamment grâce à des mobilisations et des campagnes massives de sensibilisation, comme avec la campagne “ Free the nipple”. Mais reste l’idée que la censure et la régulation des plateformes se feront toujours au bon vouloir de celles-ci.
