Article 6e

Il est illégal de créer/alimenter un outil numérique nocif pour la santé physique ou mentale des utilisateur·ices

Article en cours d’annotation

✏︎ ✐ ☻ ☹︎ Découvrez les témoignages, ça vous parle ? 𓆝 𓆞 𓂏 Puis lisez les propositions de loi (les alinéas). Avez-vous des modifications, des ajouts ?✁✁𓄀𓄀𓄀𓄀𓄀𓄀

Masques fabriqués pour la vidéo du 12 avril 2023

1. Les entreprises créatrices d’applications et programmes sont-elles responsables de capter notre attention, nous manipuler ? Quelle protection avons-nous face à elles ?

Nora
Il y a une hypocrisie autour de la liberté. On nous dit : « Le numérique pour plus de liberté ! Tu es libre de l’utiliser ou pas ». Mais c’est faux. Si tu ne le fais pas tu es sanctionné. C’est un discours paradoxal qui entretient la confusion mentale ambiante.

Zian
Pour moi l’informatique c’est dur psychologiquement. Je vois toujours ma famille à travers écrans interposés. Ça me fait mal parce que je les vois jamais en vrai. Depuis que ma maman est décédée en 2019, même déjà avant…, c’est devenu en clic. On prend rendez-vous en ligne et c’est fait. La famille ne prend même pas la responsabilité de venir jusqu’à Bruxelles. Ils prétendent que j’habite trop loin, eux sont à Mons. Moi me déplacer me coûte très cher : je dois faire appel à des transports adaptés pour les handicapés. Depuis la gare de Mons, le transport me coûte 85 euros pour même pas 3min de trajet. On devrait limiter les fonctions de l’informatique à un certain niveau. Les gens deviennent trop dépendants de ça. Même moi. Je suis souvent tenté à aller sur mon ordinateur. Mais je ne me sens pas heureux. Je me sens enfermé dans le monde virtuel quoi. En plus tout devient de plus en plus payant. Avant il y avait des trucs de streaming gratuits. Maintenant je suis obligé de prendre un abonnement Netflix si je veux regarder des films à longueur de journée. On doit revenir à une vie normale. À une vraie vie quoi.

Anthony
Le problème c’est que ça continue à se démocratiser, c’est une économie de marché. On attire les gens. Je vois pas trop ce qu’on peut faire, à part donner de plus en plus d’aide à celles et ceux qui subissent du harcèlement, qui ont des problèmes sur les réseaux. Regrouper les gens. Parler. Ça, ça peut faire du bien. Et c’est vrai qu’il y a un truc bien avec internet : quand on arrive à trouver un groupe, un forum, avec qui on arrive à partager nos expériences, nos émotions. Ça, ça peut faire du bien. En tout cas il faut que les gens continuent à discuter ensemble. Il faut pousser les gens.

Laura
Je ne sais pas comment je n’y ai pas pensé avant, j’ai une anecdote forte. Mon père de 60 ans est tombé amoureux virtuellement. Il est fragile, cela a creusé sa fragilité. Il a vidé son compte en banque de son plein gré au profit de ces personnes. Et on ne parle pas de petites sommes d’argent. Il ne pourra plus jamais le récupérer. Aujourd’hui encore il ne veut pas croire qu’ils étaient plusieurs, que c’était une arnaque organisée. Il pense que c’est cette femme dont il est amoureux qui s’est fait arnaquer.

Savannah
J’ai essayé de prendre un téléphone nul, mais assez vite j’ai repris un téléphone chouette. Tout ça a un gros impact psychologique. Difficile d’arrêter. Addiction aux applications. Et franchement c’est marrant, hilarant même ce qu’on trouve sur le Net. Ma consommation culturelle passe aussi beaucoup par internet.

Art. 6 Alinéa 1

Capter l’attention d’une personne à l’insu de son plein gré pour en tirer du profit, par des outils, applications ou programmes numériques, est illégal.

§ C’est du vol de l’attention.

§ Demander aux créateurs de programme d’appliquer des principes de prévention (définis selon les études de santé publiques). Il faut par exemple obliger les applications à décocher les notifications par défaut.

2. Doit-il y avoir un contrôle sur les programmes et applications dangereuses (addiction, dépression, endettement, harcèlement) ? Comment fixer la limite entre liberté, plaisir, arnaque, censure, manipulation ?

Adèle
L’impact du numérique sur les enfants c’est marquant. Les enfants peuvent beaucoup moins se défendre. Quand ma fille avait seulement un an j’ai vu que les deux trucs qui la rendait vraiment folle, c’étaient le sucre et les vidéos. Dans ces moments-là, elle ne maitrisait plus son corps, comme si elle était en manque, alors que pour le reste les petites colères passent très vite. Quand même globalement ma fille le rapport au numérique ça va. Mais quand on lui propose de choisir entre un dessin animé et un moment d’échange, ou une activité qu’elle adore, elle va toujours choisir le dessin animé parce que c’est trop puissant, trop attractif. Elle ne sait pas se défendre seule de ça.

Anthony
Quand ça me saoule trop, je prends des mesures pour me recentrer. Des fois je coupe en désactivant au moins les notifications. On a beaucoup d’espérance en fait quand on passe du temps sur les réseaux. C’est une spirale affreuse. Les enfants n’ont pas les moyens de lutter seuls contre ça. Moi ça m’a dévoré. Ça m’a dévoré il y a 2 ans. Maintenant j’ai compris. Se recentrer. Sortir. Faire de la musique. Faire du sport. Être dépendant des réseaux c’est être dépendant des autres. Être dépendant d’internet aussi. On est un pantin, attaché par des fils. On est là tout seul et on pense au monde entier, on sent une attirance irrésistible pour se mettre en contact avec le monde entier. J’avais téléchargé des applis pour faire des rencontres. Ouais c’est superficiel. Y a aussi la situation personnelle qui joue beaucoup bien sûr. Là je suis au foyer, j’ai mes jeux vidéos en haut. Quand ça va mieux je fais mes cours. C’est dur . Mais on peut plus se culpabiliser. Ça devient juste atroce si on rentre dans la spirale de la culpabilité. À un moment j’ai accepté ma situation. OK on peut plus revenir en arrière. Maintenant je vais essayer d’utiliser internet pour que ça aille mieux. Discuter avec des gens bienveillants. Utiliser internet pour contrer internet. Aider les gens. Au lieu que l’État mette des restrictions, faut avoir le déclic. J’ai entendu que des enfants de 2 ou 3 ont un téléphone. Moi c’était 8-12 ans. J’ai vécu l’année d’Instagram, c’était pas là à ma naissance. Ça me fait peur pour les enfants. Y a peut-être pas tout le monde qui s’en rend compte, mais il y a une hypersexualisation des enfants sur internet. Ils copient les adultes. Ils deviennent superficiels, ils font des choses dangereuses pour eux. Derrière tout ça il y a un combat à mener avec les enfants.

Art. 6 Alinéa 2

Les signalements de contenus, d’outils, d’applications et de programmes numériques dangereux* pour la santé physique et mentale doivent être gérés par l’État.

§ Le système de signalement doit en particulier être ouvert au corps médical et à toute personne ayant un problème de santé mentale ou physique. Les signalements doivent être traités et des sanctions doivent être mises en place.

§ L’État doit mettre en place des études de santé publique et poser des critères de dangerosité en concertation avec les personnes touchées et les travailleurs de première ligne en utilisant par exemple des critères de captologie. (addiction, manipulation)

§ Nous demandons la création d’un label qui rend visible le niveau de dangerosité.

§ Une attention portée à ne pas rentrer dans une dimension de censure.

3. Quand réagir face à des applications qui banalisent l’hypersexualisation des mineur·es ? Comment avoir un impact ?

Céline
Ma fille m’a partagé un contenu online où on lui propose d’être prostituée. Elle trouve ça banal. J’ai parlé de plainte. « Non, ça arrive à tout le monde ! »

Savannah
Quand une application me propose des vidéos de petites filles, qui dansent par exemple, je signale.

François
Une enfant de 12 ans était en chat vidéo depuis notre local. Elle était sur un site où on peut discuter avec des inconnus. Il y a des prédateurs sexuels. Elle discutait avec un adulte qui avait son sexe en main. On voit ça tout à coup et on a coupé. On a discuté avec elle, elle a pleuré. Il lui avait demandé de lui montrer les toilettes et de fermer la porte. Il n’y a aucune sécurité. C’était un choc pour l’équipe. C’est important d’informer tous les enfants qu’ils ont le droit de faire un signalement quand quelque chose cloche.

Art. 6 Alinéa 3

Poursuivre pour abus de faiblesse les créateurs/propriétaires d’outils ou programmes «dangereux»*.

§ L’État doit pouvoir intervenir

*Il faut évaluer la dangerosité d’un outil en fonction du rapport de pouvoir qu’il met en place avec l’utilisateur, lorsqu’il y a volonté de manipuler et conscience de la dangerosité

⎈⍼⎈⍼⎈⍼⎈⍼⎈⍼⎈⍼⎈⍼⎈⍼⎈⍼⎈

Extrait des discussions sur l’article 6e lors du Grand Comité Humain du 9/12/2022 :

Un expert
C’est le rôle de l’État de contrôler le système internet. Il doit pas laisser ce genre de chose circuler sur internet.

Une députée
L’écran est addictif clairement. Mais pourquoi pas prendre aussi le modèle de la cigarette ? Si on peut définir que c’est hautement dangereux, et que l’entreprise qui émet ce jeu en est consciente, selon certains critères, alors c’est punissable ?

Un député
Oui, mais par rapport aux entreprises il faut voir la démarche. Beaucoup d’entreprises essayent de créer de la dépendance comme le jeu Fornite, en travaillant sur les circuits de la récompense : avec des notifications, des bruits bien spécifiques, des visuels qui créent du plaisir. Il y a une analyse à faire, jusqu’où ils vont ? Parce qu’en soit c’est le principe d’un jeu : ça crée de la dépendance. Où est le plaisir et où est la création d’une dépendance de manière volontaire ?

N’HÉSITEZ PAS A PARTAGER ET VOUS APPROPRIER NOTRE TRAVAIL ! Les lois, témoignages, textes et images du Code du Numérique sont partagés sous la licence Creative Common, « Attribution » (BY) et « Partage dans les Mêmes Conditions » (SA). Vous pouvez les utiliser comme vous voulez, à conditions de nous citer, de décrire les éventuelles transformation et de partager sous la même licence. Pour en savoir plus : un résumé et le texte complet de la licence. Dans le cas où vous utilisez des extraits ou capture d’écran de la vidéo avec des personnes reconnaissables, merci de nous en informer !