In short
Protection des enfants et de l’intégrité cognitive face aux réseaux sociaux, algorithmes et IA (addiction, “designs d’addiction”, dérives des chatbots), et discussion des réponses de régulation en Suisse/Europe.
Guests (backgrounds)
- Isabelle Chapuis: conseillère nationale (centre vaudoise), économiste, prospective/gestion des risques.
- Raphaël Main: conseiller national (Verts vaudois), avocat, pro-régulation des plateformes.
- Anouche Setagia: journaliste, responsable pôle cyber.
- Yanif Benhamou: professeur associé en droit du numérique (Unige), avocat, expert Conseil fédéral sur l’IA.
- Marc Cugnadi (Bruxelles): professeur de philosophie sociale/morale/politique (UCLouvain).
Key claims
- Les plateformes captent l’attention via des modèles économiques et techniques (scroll infini, dopamine), pas seulement via contenus.
- WhatsApp préparerait une fonctionnalité pour <13 ans, transférant la responsabilité aux parents.
- Les interdictions d’âge (ex. Australie) seraient contournées et peu efficaces; risque de “mauvaise” régulation.
- Les procès US visent désormais le business model d’addiction.
- Pour l’IA, les chatbots peuvent influencer des personnes vulnérables; nécessité d’un “cap” de souveraineté de l’esprit humain.
Notable examples
- Procès contre Meta/Google (ingénierie de l’addiction).
- Australie: interdiction <16 ans, contournement, baisse limitée.
- Dark patterns: Snapchat (flammes), Duolingo (gamification), newsletters difficiles à désinscrire.
- Cas cités: suicides après conversations avec des chatbots; “mode érotique” de ChatGPT évoqué; Proton Lumo (alternative suisse).
Written by AI. May contain mistakes. Listen to the episode to check what was said.
Chapters
Tap a time to open that second in VOIntroduction to the Digital Age Dilemma
0:00 to 2:06
Exploration of the impact of social media and AI on children and mental health.
“Moi je me souviens que j 'ai eu mes premiers réseaux sociaux à partir de 12 ans et clairement c 'était trop jeune.”
Introducing the Guests
2:06 to 3:26
The host introduces a panel of experts discussing the dangers of digital platforms.
“Bonsoir à tous, sujet vertigineux ce soir.”
The Challenge of Regulation
3:26 to 6:06
Discussion on the challenges of regulating social media and its effects on youth.
“Je ne suis pas sûr que je vais dire chaque fois que c 'est Taglia, je vais dire Anouche plusieurs fois, ça ira plus vite.”
Addiction and the Business Model
6:06 to 8:12
Examining how social media platforms exploit addiction for profit.
“c 'est -à-dire que les GAFAM qui ont pris, d 'une certaine manière, le pouvoir sur nos vies, aussi sur nos démocraties, par ces petits outils qu 'on a dans les mains au quotidien, peuvent engranger des profits colossaux.”
Calls for Action Against Harmful Practices
8:12 to 10:48
Addressing the need for effective regulation and the role of parents in child safety.
“Oui, je pense que c 'est le cœur du problème.”
The Path Forward: Independence and Awareness
10:48 to 14:01
Discussing the importance of independence and awareness in combating addiction to technology.
“du contenu et du contenu et qu 'on régulait à peine le contenu alors que c 'est vraiment le modèle d 'affaires qu 'il faut attaquer.”
Understanding Network Effects in Social Media
14:01 to 15:07
Learn how platform value increases with user participation and its implications.
“Or, vous l 'avez très bien dit, tous ces systèmes, tous ces réseaux fonctionnent sur un marché avec effet de réseau, ce qu 'on appelle les effets de réseau.”
Challenges in Regulating Children's Access
15:07 to 16:21
Explore the regulatory challenges and responsibilities concerning children's access to social media.
“Vous avez raison, le monde se réveille, tardivement peut -être, lentement en tout cas, à nous, c 'est agace, j 'en crois l 'OMS.”
Australia's Regulatory Approach and Its Pitfalls
16:21 to 18:04
Examine Australia's approach to regulating social media access for children and its shortcomings.
“En même temps, il y a tellement de recours derrière.”
The Debate on Banning Social Media for Teens
18:04 to 19:26
Discuss the implications and efficacy of banning social media access for teenagers.
“Parce que pour l 'instant, la charge, on la met sur les parents et sur les enfants.”
Show all 24 chapters
The Role of Parents in Ensuring Online Safety
19:26 to 22:46
Understand parents' role and challenges in protecting children from online dangers.
“J 'ai souvent cette discussion autour de moi.”
Legislation and Transparency in Tech Platforms
22:46 to 24:49
Learn about the proposed laws aimed at increasing transparency and accountability of tech platforms.
“C 'est pour ça que j 'accueille avec un peu de circonspection quand on nous dit « Oui, méfions-nous des fausses bonnes idées ».”
Addressing Dark Patterns in Digital Platforms
24:49 to 27:08
Explore dark patterns used by digital platforms and how legislation can combat them.
“Donc, effectivement, je pense que les réactions, que ce soit des parlementaires que nous sommes ou de toutes les parties prenantes, a été quand même de dire maintenant il va falloir revoir cette copie.”
The Need for Stronger Regulation in Tech
27:08 to 28:00
Discuss the importance of robust regulation to address tech companies' influence and protect users.
“Donc si la population signe cette initiative, c 'est clair que le Conseil fédéral va quand même le sentir.”
European Regulation on Tech Giants
28:00 to 29:50
Discussion on the necessity and challenges of regulating tech companies in Europe.
“avec cette fois des amendes qui pourraient se chiffrer en milliards, vu qu 'au bout du compte c 'est un pourcentage du chiffre d 'affaires.”
The Need for Public Alternatives
29:50 to 31:30
Exploration of the need for public alternatives to tech platforms.
“Où est-ce que j 'en étais avec cet projet ?”
Sovereignty of the Human Mind
31:30 to 34:20
Debating the concept of human sovereignty in the age of tech and algorithms.
“L 'urgence, c 'est d 'avoir un cap, un cap clair.”
The Impact of AI on Human Behavior
34:20 to 37:10
Analyzing how AI and algorithms influence human behavior and mental health.
“Exactement, et à l 'échelle internationale, j 'en ai tout à fait ce que disait notre collègue à l 'étranger, donc d 'avoir un cadre international, oui.”
Obedience to Machines
37:10 to 39:30
Discussion on the societal implications of obedience to machines and algorithms.
“35 à 40 % des utilisateurs qui parlent de leur état d 'âme, de leurs angoisses, à leur intelligence artificielle, c 'est impressionnant.”
The Future of Digital Interaction
39:30 to 42:00
Speculation on future digital interactions and ethical considerations.
“Ces machines doivent être au service de l 'épanouissement humain et ce n 'est pas à nous d 'être au service des géants du numérique et des comportements qu 'ils nous imposent.”
Cognitive Atrophy and AI Usage
42:00 to 43:32
Discussion on how AI impacts cognitive abilities and decision-making.
“Ça veut dire, quel est le phénomène à l 'œuvre ?”
Challenges in Digital Regulation
43:32 to 45:18
Exploring the difficulties faced in regulating digital spaces compared to physical spaces.
“Votre capacité de penser, elle s 'affaiblit.”
The Balance between Innovation and Regulation
45:18 to 47:14
Debating the need for regulation without stifling innovation in technology.
“différentes régulations, les autorités éducatives mettent en place des programmes, en tout cas pour l 'Université de Genève, c 'est ce qu 'on fait.”
Finding Harmony with Technology
47:14 to 48:36
Discussing how to coexist with technology while preserving human cognition.
“Les coordonnées s 'affichent si ça vous intéresse.”
Transcript
Automatic transcript. May contain errors.0:01... ...
0:12Moi je me souviens que j 'ai eu mes premiers réseaux sociaux à partir de 12 ans et clairement c 'était trop jeune. Le cerveau de nos enfants et de nos adolescents n 'est pas à vendre. Les émotions de nos enfants et de nos adolescents ne sont pas à vendre ou à manipuler, ni par les plateformes américaines, ni par les algorithmes chinois. C 'est la nouvelle trouvaille de Meta pour harponner les plus jeunes. Sa filiale WhatsApp prépare une fonctionnalité destinée aux smartphones des moins de 13 ans, alors que, comble de l 'ironie, procès et procédures s 'accumulent aux États-Unis contre Facebook, Instagram, YouTube, TikTok et Snapchat, accusés par des milliers de parents de détruire mentalement leurs enfants.
0:56C 'est pour cela aussi qu 'après l 'Australie, l 'Allemagne, l 'Italie, l 'Espagne, la France aussi, nos voisins veulent durcir en 2026 l 'accès aux réseaux sociaux et à leur logique d 'addiction. Ces réseaux qui rendent accro, c 'est une partie du problème. l 'autre bataille numérique majeure, c 'est l 'intelligence artificielle et ses dérives. Comment protéger nos cerveaux ? Quand les chatbots, ces agents de conversation, pensent pour nous et nous incitent même au pire, notre sens humain se laisse-t-il dangereusement aspirer dans la spirale de la tech ? L 'homme doit-il reprendre le pouvoir sur la machine de toute urgence ?
1:39Comment mettre nos enfants, nos adolescents et leur santé mentale à l 'abri des géants du web, des réseaux sociaux et de leur gigantesque ingénierie de l 'addiction et plus largement encore qu 'elle garde-fou pour l 'esprit humain, pour l 'intégrité de nos cerveaux, pour nos facultés cognitives face au fonctionnement de plus en plus algorithmique du monde dans tous les domaines, face à l 'intelligence artificielle qui pense pour nous, qui résonne pour nous, qui désire désormais pour nous. Bonsoir à tous, sujet vertigineux ce soir. Merci d 'être avec nous comme tous les mercredis soir en direct à 20h10 sur le plateau d 'Infrarouge au chevet avec 5 invités de ce que nous avons donc de plus précieux, le cerveau.
2:16Isabelle Chapuis est avec nous, bonsoir. Bonsoir. Merci mille fois d 'être là, conseillère nationale du centre, vaudoise, économiste, experte de la prospective, de l 'anticipation stratégique, de l 'analyse des risques et ça tombe bien ce soir. Raphaël Main est avec nous, bonsoir. Bonsoir. Conseiller national vert vaudois, avocat, pour qui la régulation des plateformes fait partie, l 'une si ce n 'est pas la priorité de la législature en cours. Anouche Setagia, bonsoir. Bonsoir. Journaliste autant, responsable du pôle cyber, infatigable avec vos collègues, vigie dans cet océan de données qui est apparemment devenu notre monde.
2:49Yanif Benhamou est avec nous, bonsoir. Bonsoir. Merci mille fois. professeur associé de droit du numérique, de l 'information et des médias à l 'Université de Genève, avocat. Et puis, ça à son importance, membre du groupe d 'experts qui conseille le Conseil fédéral sur les questions d 'intelligence artificielle. Et enfin, Marc Cugnadi est avec nous en duplex de Bruxelles, professeur de philosophie sociale, morale et politique à l 'Université catholique de Louvain, penseur essentiel de ce sujet, devenu chevalier blanc en quelque sorte de l 'esprit humain. Alors réseaux sociaux, algorithmes, IA, comment protéger nos enfants et nos cerveaux.
3:23Vaste programme, bienvenue dans Infrarouge. Anouche, c 'est Taglia. Je ne suis pas sûr que je vais dire chaque fois que c 'est Taglia, je vais dire Anouche plusieurs fois, ça ira plus vite. On va commencer par la partie émergée de cet iceberg qui nous réunit ce soir, cette espèce de défi colossal que nous posent la machine et les machines. Commençons donc par les jeunes et les réseaux. On est aujourd 'hui en plein débat mondial, on l 'a vu dans le sujet de Christophe, sur la régulation un peu partout. où il y a des procès, on l 'a vu aussi, qui pleuvent sur les géants pour cette véritable, je l 'ai dit, ingénierie de l 'addiction qu 'ils ont réussi à développer.
3:53Et voilà que, je l 'apprends en lisant votre excellent journal et votre excellent confrère Grégoire Barbet, qu 'on salue, comble de l 'ironie, WhatsApp débarque avec une fonctionnalité. Alors, ça s 'adresse aux parents, mais pour les moins de 13 ans. Comment est-ce qu 'il faut comprendre ça ? Provocation, je m 'en foutisme ou simple coïncidence ? Ou déni total peut -être de la régulation. Marc Zuckerberg se dit, voilà, l 'Europe va tenter de nous réguler mais nous on va faire beaucoup plus loin on va essayer effectivement d 'avoir les jeunes de moins de 13 ans déjà comme clients de WhatsApp et effectivement, comme vous le disiez, transférer totalement la responsabilité sur les parents ce sont eux qui devront gérer le compte de leur enfant voir que tous les paramètres sont les bons et puis évidemment, tous les 3-4 mois, ces paramètres changent donc les parents doivent regarder ce qui se passe et petit à petit, effectivement, les mettre dans cet univers numérique donc effectivement, ça commence extrêmement tôt puis on voit en parallèle que c 'est l 'Australie ce méga laboratoire à l 'échelle mondiale qui interdit depuis mi-décembre les réseaux sociaux depuis moins de 16 ans.
4:46On va en parler après. Bien sûr, on verra si ça marche ou pas. Ces mesures ne marchent pas très bien jusqu 'à présent. Donc effectivement, il y a ceci. Et au milieu, il y a Kim, il y a des parents complètement débousselés, extrêmement seuls, surtout moi à ma petite échelle, entre hier soir, ce matin, ce midi, mon aîné qui a tout juste 11 ans me harcèle pour avoir une montre connectée parce que la plupart de ses copains ont une montre, ont un téléphone. Mais d 'abord, ce sera juste pour envoyer des SMS à ses copains du quartier. On commence aujourd 'hui par la montre connectée. On va aller vers WhatsApp et d 'autres.
5:13Donc voilà, ce côté solitude de parents est très important par rapport au paramétrage de ces applications comme ce futur WhatsApp pour les moins de 13 ans qui va être vraiment une horreur absolue. Et puis en face, une régulation qui n 'arrive pas à suivre. Et puis quand la régulation se met en place, elle a des effets nocifs, toxiques, dont il faudra absolument parler. Mais ce qui ne veut pas dire ne rien faire. Les parents et les grands-parents aussi des gens qui sont déboussolés, qui nous regardent, Ils sont nombreux et je pense qu 'ils sont déjà effrayés à l 'idée de se dire que ce qui est en train de se passer, c 'est effectivement que les plateformes sont en train de tenter de leur transférer la responsabilité du dossier.
5:48Raphaël Main, encore une fois, sur la concomitance de ces deux news, si j 'ose dire, WhatsApp qui arrive pour les moins de 13 ans, et puis ces procès, au moment où ont lieu ces procès, on est dans quoi, je repose la question, on est dans le cynisme absolu ou dans un sentiment de supériorité totale qui fait qu 'on ne voit même pas l 'éventuelle ironie ? Oui, un peu de tout ça, mais il faut comprendre que c 'est une course contre la montre, c 'est -à-dire que les GAFAM qui ont pris, d 'une certaine manière, le pouvoir sur nos vies, aussi sur nos démocraties, par ces petits outils qu 'on a dans les mains au quotidien, peuvent engranger des profits colossaux.
6:20Et évidemment, la régulation va mettre un peu d 'ordre dans tout ça. Donc, il y a cette espèce de course contre la montre qui se joue. Et pour mesurer le besoin, l 'ampleur de la crise, du fléau, je trouve que c 'est intéressant de se poser la question, sur une journée, qu 'est-ce qu 'on fait ? On mange, on dort, on se loge, on se déplace. Tous ces sujets, ils sont réglés dans la loi. Il y a des règles, la Constitution, elle en parle. Sur le sommeil, pas tellement. Non, mais où on se loge ? Alors, pas sur la taille de votre oreiller, mais et encore. Et encore, et encore. Sur le bruit la nuit, la lumière, la pollution lumineuse.
6:50C 'est à peine caricatural de dire qu 'actuellement, le temps qu 'on passe sur Internet, qui est un temps énorme sur une journée, et notamment, bien sûr, les plus jeunes générations, ce temps-là fait quasiment l 'objet d 'aucune règle. En Suisse, c 'est évidemment un combat qu 'on mène de longue date. maintenant au Parlement pour presser le Conseil fédéral de proposer un projet de régulation sur les plateformes numériques. Il y a toute une série d 'explications du retard, mais une des explications, et je trouve quand même intéressant de la donner, c 'est que le Conseil fédéral avait très peur ces derniers temps de fâcher l 'administration Trump.
7:22Il y a une telle imbrication entre le pouvoir des GAFAM, le pouvoir du gouvernement américain et cette économie mondialisée qui dépend des GAFAM, mais qui est aussi sous le joug des GAFAM, que tout le monde avance très très lentement. C 'est une explication, il y en a d 'autres, mais une explication des terribles retards qu 'on a pris sur ce sujet, il faut le reconnaître, qui est complexe. C 'est -à-dire que ça pose aussi des questions qu 'on ne peut pas régler en un claquement de doigts, ça c 'est sûr. Pour être un peu plus clair sur cet étonnant choc d 'actualité, ce qui est en train de se passer aux États-Unis avec les procès en cours, à commencer par le gros procès en cours contre Meta et Google, qui convoque Zuckerberg et qu 'on sort à la barre, c 'est que cette fois on attaque, ce sont des gens, des familles, des jeunes, de leur famille qui attaquent les gens pour qu 'on leur reproche une ingénierie de la fabrique de l 'addiction.
8:09Et là, on est dans quelque chose, on est au cœur. En fait, on attaque le business model, Yannick Benhamou, de ces gros gaffes. Oui, je pense que c 'est le cœur du problème. Donc, c 'est effectivement les designs d 'addiction, le modèle d 'affaires qui vise à maximiser le temps d 'écran le plus longtemps possible pour faire des revenus publicitaires, qui est le problème. Et puis, à l 'époque, on s 'est attaqué à la désinformation, aux fake news. et je dis souvent, on était à l 'ère de la désinformation, de la lutte contre les fake news, puis aujourd 'hui, on entre, me semble-t-il, avec les dires, faire un procès et scandale dans une nouvelle ère de la lutte contre les mécanismes d 'addiction.
8:42Donc, je pense que c 'est plutôt une bonne nouvelle, c 'est le cœur du problème, et on verra si la LPCOM en Suisse s 'attaque aussi à ces questions, parce qu 'à la base... Ce qui est la loi en préparation dont on parlera tout à l 'heure de réglementation des plateformes. Exactement. Et effectivement, d 'abord, on visait à lutter, ou essayer de réguler les contenus qui circulaient sur les plateformes. Et puis maintenant, sous le vernis des contenus qui circulent sur les plateformes, il y a aussi les algorithmes de recommandation, qui est un autre problème, l 'autre phase du problème, qui va devoir être prise en compte et attaquée.
9:12Je vous garde deux secondes là-dessus. On ne va pas être technique sur comment... Mais juste pour qu 'on comprenne, ce qu 'on leur reproche, c 'est d 'avoir développé une ingénierie. Cette ingénierie, c 'est très concret. Ce sont des techniques de captation de l 'attention qui libère de la dopamine, le scroll infini, etc. Et puis c 'est aussi sur le front du contenu, au-delà des techniques d 'accroche, la promotion, ou en tout cas aucun garde-fou contre les contenus les plus violents, les plus extrêmes, parce que c 'est ceux-là qui captent l 'attention. On n 'est pas juste dans une guerre des vieux ringards qui n 'aiment pas la technologie, contre une technologie qu 'ils n 'aiment pas.
9:46Ce qu 'on leur reproche, ce sont des choses particulièrement graves. Bon, alors pour les contenus violents, haineux, ou désinformation, il y a de plus en plus de moyens et de régulations qui me semblent être de plus en plus clairs. C 'est pour ça que je disais dorénavant l 'enjeu nouveau auquel on ne s 'est pas encore attaqué et qui vient avec ces nouveaux procès, c 'est effectivement les modèles d 'affaires, les designs d 'addictions, qui ne portent pas uniquement sur les contenus haineux. Alors on sait qu 'un contenu haineux est six fois plus viral qu 'un autre contenu, mais peut -être que les petits chatons pour une personne ou d 'autres qui aiment les recettes de cuisine italienne, si elle n 'a que des contenus de recettes italiennes, elle va aussi avoir une addiction d 'addiction, disons une envie compulsive d 'aller entrer et être aspiré par son téléphone.
10:24Isabelle Chapuis, les dégâts que font, pourraient faire, feront les réseaux sociaux sur les jeunes via l 'addiction, ce n 'est pas un thème tout à fait nouveau. Ça fait longtemps qu 'on en parle. On en a dû faire déjà 7-8 émissions sur le sujet. Pourtant, on a l 'impression qu 'entre ces procès et toutes les tentatives de régulation qui sont en route, il se passe enfin quelque chose. Je me trompe ou il se passe maintenant, en 2026, quelque chose, éventuellement à l 'échelle de la planète ? Moi, j 'ai vraiment l 'impression qu 'on a parlé jusqu 'à présent du contenu et du contenu et qu 'on régulait à peine le contenu alors que c 'est vraiment le modèle d 'affaires qu 'il faut attaquer.
10:57Et avec les... En fait, on parle maintenant d 'une technologie ou d 'une ingénierie mortelle. On a vu avec certains chatbots qui poussent les jeunes en particulier... Chatbots, c 'est pour les gens qui ne connaissent pas, c 'est les robots conversationnels, ces petites machines avec lesquelles on discute. Avec lesquelles on peut discuter. Et puis, on a vu récemment d 'ailleurs chez vos collègues de Temps Présent que ce sont des systèmes qui vous poussent parfois, dans le plus grave des cas, au suicide. Ce qui est quand même assez terrible, mais c 'est by design, comme on dit. C 'est vraiment la volonté.
11:27C 'est conçu pour. C 'est conçu pour. Si on regarde maintenant, c 'est Netflix qui est aussi, qui vous dit que vous avez le choix des films, mais c 'est eux qui choisissent pour vous les films. Ils disent aussi qu 'ils sont peut -être, eux, les concurrents des médias, mais que leur concurrent à eux, le plus grand, c 'est notre sommeil. Et qu 'ils sont en train de gagner contre le sommeil. Donc, on voit déjà là à quel point ce n 'est pas éthique. et puis Caractère AI qui est un de ses chatbots donc un de ses agents conversationnels avec lequel on peut discuter de plein de choses le CEO lui il a dit qu 'il ne veut pas remplacer Google, il veut remplacer ta maman et je pense que ça quand j 'ai lu ça moi personnellement ça m 'a vraiment touchée ça m 'a vraiment fait mal et je me suis dit là on a un vrai problème et on arrive au moment On verra si l 'argument marketing porte je vais remplacer ta maman c 'est osé en termes de slogan publicitaire ça fait mal Mais c 'était d 'ailleurs dans le script de la plainte d 'une des familles dont l 'enfant se suicidait.
12:24Je veux une solution que même ma maman puisse utiliser. Marc Oignadi, merci mille fois d 'être avec nous en duplex de Bruxelles. La prochaine fois, ce sera sur le plateau, comme la dernière fois. On verra avec vous tout à l 'heure tout ce qui se joue en amont des ados et des réseaux. Mais d 'abord, sur les jeunes et l 'addiction au réseau, Est-ce que vous avez aussi le sentiment qu 'il se passe quelque chose ou est-ce que je prends mes rêves pour des réalités ? Oui, d 'abord, bonsoir, bonsoir à toutes et à tous. Mais je me réjouis évidemment de tout ce qui vient d 'être dit autour de la table.
12:59Je me réjouis de cette prise de conscience. Bon, franchement, elle est un peu tardive parce que ceux qui réfléchissent au numérique disent ces choses depuis déjà 10 ans, 15 ans. Maintenant, évidemment, l 'ampleur est décuplée. Mais je pense aussi que tout ce qui a été dit et que j 'approuve est porteur, si vous voulez, d 'une conclusion qu 'il faut en tirer. C 'est -à-dire que, vous voyez, les régulations, elles sont difficiles. Le contournement pour les jeunes, l 'exemple australien le montre, est facile. L 'efficacité de ces régulations est très limitée. Les interdictions sont des incitations à contourner.
13:43Et donc je pense que le problème, ce n 'est pas tellement effectivement les contenus, ce n 'est pas du tout non plus l 'âge légal. Ça, ce sont des questions au fond tout à fait, je dirais secondaires par rapport au problème fondamental qui est la dépendance, la dépendance elle-même. Or, vous l 'avez très bien dit, tous ces systèmes, tous ces réseaux fonctionnent sur un marché avec effet de réseau, ce qu 'on appelle les effets de réseau. C 'est -à-dire qu 'au fond, plus le produit a d 'utilisateurs, plus il a de valeur. Donc voilà, c 'est typique évidemment des plateformes. Plus on est dessus, plus elles ont de valeur et plus donc les entreprises, ces géants du numérique ont intérêt à capter en fait l 'attention, à garder les utilisateurs.
14:38Et c 'est ce que fait de manière assez géniale, sournoise et géniale, WhatsApp maintenant, en permettant au moins de 13 ans, en s 'ouvrant au moins de 13 ans, tout en s 'assurant du contrôle parental, etc. C 'est une manière de s 'assurer, au fond, déjà une clientèle captive. Mais le problème, c 'est l 'indépendance. Et ce problème de l 'indépendance, on ne le résoudra pas au niveau suisse, au niveau belge, et même au niveau européen. On le résoudra à un niveau mondial. Alors, on va revenir sur toutes ces questions, Marc Oudniadi, merci mille fois. Vous avez raison, le monde se réveille, tardivement peut -être, lentement en tout cas, à nous, c 'est agace, j 'en crois l 'OMS.
15:19Le seul problème sanitaire un peu connexe, c 'est les troubles liés aux jeux vidéo. On en est encore aux jeux vidéo. Du côté de l 'OMS, il y a du chemin à faire avant que la prise de conscience soit vraiment globale. Oui, on est très loin effectivement de tout cela, alors que la réalité, évidemment, c 'est ces mécanismes d 'addiction qui concernent les jeunes, mais aussi les plus âgés. Je reçois tous les lundis matin un rapport de mon téléphone qui me dit que la semaine passée, c 'était 3h49 en moyenne sur mon téléphone. Alors, je n 'ai pas l 'impression d 'utiliser à outrance, que ce soit Instagram ou bien LinkedIn.
15:50Donc, il y a ce problème absolument massif. Ces parents qui sont seuls. Alors, qu 'est-ce qu 'on fait par rapport à ça ? Il y a eu... L 'exemple d 'Australie, il faut vraiment bien regarder ce qui se passe là-bas. Ce laboratoire mondial, on a vu qu 'il y a eu ce transfert vraiment de responsabilité sur les enfants. Comme disait un haut responsable européen, en fait, maintenant, on réglemente les enfants en disant que vous n 'avez pas le droit d 'accéder à ces réseaux sociaux et on laisse les plateformes tranquilles. Elles peuvent continuer à faire ce qu 'elles veulent. La seule chose qu 'on leur demande en Australie, c 'est de trouver un moyen de vérifier l 'âge des enfants.
16:19On leur promet quand même des amendes aux plateformes. De quelques millions. En même temps, il y a tellement de recours derrière. Et on voit aussi que l 'Union européenne, actuellement, ne fait pas du tout peur avec les amendes qu 'elle donne même par centaines de millions aux géants de la tech qui continuent comme si de rien n 'était. Donc il y a finalement ce transfert sur les enfants. Les plateformes sont tranquilles. Elles peuvent par elles-mêmes décider comment est-ce qu 'on va vérifier l 'âge des enfants via la reconnaissance faciale avec une photo, via un document d 'identité envoyé. Et on voit qu 'énormément d 'enfants arrivent à contourner ceci parce que, comme ça a été dit auparavant, l 'interdiction, c 'est intéressant.
16:52Des enfants qui arrivent à trouver d 'autres moyens techniques pour accéder à ces réseaux. Et puis on a vu aussi qu 'en Australie, finalement, ça avait très peu baissé. l 'utilisation, que ce soit de Snapchat ou bien d 'autres applications utilisées par les enfants, a très peu baissé avant et après. Donc ça veut dire que la mesure ne tient pas vraiment. Très peu. On est passé de un quart à un cinquième des ados. C 'est déjà pas mal. Et puis on a très peu de recul. Ça fait deux mois qu 'on a interdit les choses. Ça fait deux mois. Mais on a déjà une idée de comment se comportent les ados. Et puis on a aussi ces groupes de chercheurs dont certains suisses qui alertent en disant attention, il y a beaucoup d 'effets toxiques et délétères de cette réglementation qui a l 'air fantastique.
17:28Ce bannissement des réseaux sociaux pour les moins de 16 ans, avec, par exemple, en donnant trop de pouvoir à ces plateformes. On donne aussi, il y a aussi, on met des enfants à risque par rapport aux outils qu 'ils vont utiliser pour contourner ces moyens. Donc, il faut faire très attention avec ce qu 'on fait aujourd 'hui. Il y a plein de scientifiques, d 'ailleurs, qui alertent en disant que ce n 'est pas la bonne solution. Exactement. Je pense qu 'il faut les écouter. Ce ne sont pas les scientifiques qui sont du tout hors-seul. Et il faut vraiment prendre des mesures, certainement, mais plutôt contre ces plateformes, plutôt en leur faisant peur, plutôt en les réglementant, on s 'attaquant vraiment au cœur du problème qui est le business model.
17:59Si on arrive à aller aussi loin que ça dans la bête, j 'ai presque envie de dire, ce sera fantastique. Parce que pour l 'instant, la charge, on la met sur les parents et sur les enfants. Et à mon avis, ce n 'est pas du tout acceptable. Yannick Benham, pardon, je fais le B aussi, mais ça semble un peu frapper au coin du bon sens si on se dit, tiens, les ados sur les réseaux, c 'est un problème, qu 'est-ce qu 'on fait ? On interdit les réseaux aux ados. Pourquoi c 'est forcément une fausse bonne idée ? Puis s 'il n 'y a que des fausses bonnes idées, c 'est quoi la bonne idée ? Non alors il y a effectivement derrière cette idée beaucoup de problématiques déjà ça ne les prépare pas lorsqu 'ils basculent hors ligne en ligne puisqu 'ils n 'ont aucun réflexe pour circuler sur internet ensuite il y a des enjeux de contournement où les ados ou les enfants vont réussir à contourner avec des problèmes de cybersécurité Je vous interromps deux secondes, ça ne les prépare pas Marc Cugnadi vient nous dire tant mieux, le pire c 'est qu 'on les prépare et qu 'on les fasse rentrer très tôt donc finalement que ça ne les prépare pas il aurait peut -être envie de vous répondre que c 'est une bonne chose pardon excusez-moi je suis plutôt favorable autant que possible de préparer les enfants et j 'ai l 'impression qu 'on diabolise ou on incrimine un peu la jeunesse mais en fait on est tous en panique je crois donc on a le crise de l 'attention et on a dit mais c 'est les jeunes qui sont en crise d 'attention mais je pense qu 'on est tous pareil avec nos téléphones portables aspirés par ce cerveau TikTok comme certains l 'appellent et donc on focalise un peu beaucoup sur les enfants mais en fait on a tous la même problématique et les enfants souvent ils sont au contraire même parfois mieux préparés mieux équipés certains en tout cas pour appréhender ces technologies.
19:27Ça, c 'est vrai. Vous dites, on est tous. J 'ai souvent cette discussion autour de moi. Est-ce que vous aussi, Raphaël Mahin, vous êtes déjà... Vous tombez sur une vidéo maintenant, si vous voyez qu 'elle dure 15 minutes, vous vous dites, 15 minutes de vidéo, ça va être long. Vous tombez sur un texte, un article, un grand article bien renseigné du monde, vous voyez qu 'il fait 34 000 signes, vous vous dites, est-ce que je vais vraiment me faire les 34 000 signes ? On est déjà là-dedans, nous aussi. Le débat est vertigineux, parce que c 'est vrai qu 'on vit dans un monde où tout s 'accélère. Il y a aussi cette question de la vitesse, de l 'immédiateté, de la récompense immédiate.
19:55Et en fait, ce qui est assez terrifiant, c 'est de voir que les plateformes ont réussi à utiliser un certain nombre de travers du fonctionnement du cerveau humain pour vendre leur modèle. C 'est -à-dire que c 'est non pas contre l 'humain, mais en quelque sorte, c 'est avec lui ou ses pires défauts. En gros, on est paresseux, on a peu d 'attention, on aime bien être couché devant un écran. On utilise ça pour que ça marche. Mais peut -être juste une réflexion sur la régulation et sur l 'âge. l 'interdiction des moins de 16 ans parce qu 'évidemment on est en plein dans ces réflexions avec ma collègue Isabelle Chapuis on était parmi les premiers à intervenir au Parlement sur ces questions c 'est pour ça que vous êtes autour du plateau il n 'y a pas de hasard Raphaël Main il y a un enjeu de génération peut -être aussi pour comprendre pourquoi ça a mis du temps à venir la plupart de nos collègues n 'ont pas d 'enfant bas âge c 'est à dire qu 'ils ont c 'est un peu caricaturel mais cette perception du danger n 'est à mon avis pas assez présente mais maintenant concrètement pour la question de l 'interdiction, deux remarques.
20:50Un, il faut se veiller de ne pas attendre la solution parfaite. Parce que si on attend la solution parfaite, on est encore là dans 50 ans. Donc, on peut y aller par palier. On peut aller par essai, erreur, bon, ça ne marche pas, l 'Australie, ça ne marche pas. Deuxième remarque, moi, je suis favorable à une logique par palier, un peu comme l 'alcool ou le tabac. À 16 ans, on peut boire une bière, à 18 ans, on peut boire de la vodka. La publicité est interdite pour le tabac, pour les mineurs. Ce que je veux dire par là, c 'est que pour respecter cette idée de la préparation, mais pour protéger, notamment en termes de développement cérébral, d 'addiction, le plus tôt possible des jeunes qui tombent dans le filet, il faut avoir une logique de palier.
21:30Ça veut dire quoi ? Ça veut dire peut -être un premier palier à 12 ans, où on se dit a priori, sauf exception, sous contrôle parental, pas d 'accès direct aux réseaux sociaux, je ne sais pas. Ensuite, jusqu 'à 14 ans, pas de publicité directe. C 'est la logique Serge Tisseron, 3, 6, 9, 12. Mais on se comprend. Et je pense que ça permettra aussi d 'adapter les règles qu 'on pose, les règles du jeu qu 'on pose pour les plateformes, parce que là où la critique de l 'interdiction est parfaitement juste, c 'est que si c 'est l 'oreiller de paresse pour se dire on interdit en dessous de 16 ans et c 'est réglé, alors ça, surtout pas.
22:02En fait, il faut que ce soit plutôt le laboratoire pour voir comment on peut travailler, aussi pour les adultes, parce que nous sommes des grands enfants, on est aussi addict à tout ça, comme les enfants, simplement on a un peu moins de vulnérabilité mais le problème est le même. Si j 'insiste sur l 'interdiction, pardon, je vais vous rendre la parole puisque vous la voulez Yadif Benhamou je lisais une grande enquête de la BBC sur ces procès qui sont allés voir un peu ce qu 'on reprochait aux gens et il y a évidemment des repentis des whistleblowers, des anciens ingénieurs en l 'occurrence un ancien ingénieur de TikTok on lui demande quel conseil vous donneriez par rapport à TikTok ou parents qu 'est-ce qu 'il faut faire ?
22:36Le type répond débranchez le truc, fuyez et tenez vos enfants éloignés de ce truc le plus longtemps possible. Ce sont les concepteurs de la machine qui nous disent ça. C 'est pour ça que j 'accueille avec un peu de circonspection quand on nous dit « Oui, méfions-nous des fausses bonnes idées ». Lui, il nous dit « Il faut faire ça, il faut stopper le truc, stopper le farge ». Bon, ça me rappelle, ceci dit, les CEOs des GAFAM qui préconisent l 'école zéro écran. Et puis, en fait, ils ont leurs enfants dans des écoles avec 15 moniteurs par enfant, avec une ferme, des vaches et des moutons. Donc, des accompagnateurs pour les 5-7 ans de scolarité.
23:11et donc voilà, c 'est un moyen inégaux, on essaye d 'agir. C 'est facile quand on a les moyens de le faire. Je voulais juste rebondir brièvement sur la paresse. Je suis tout à fait d 'accord avec l 'enjeu qu 'on a tous, on a cette tendance de compulsivité et de paresse de se laisser passivement contempler nos algorithmes et à mon avis, une des pistes de régulation pour les jeunes ou les moins jeunes, c 'est de reprendre ce qu 'on appelle notre agentivité, devenir un acteur aussi plutôt proactif de notre téléphone portable et on peut agir ou au moins comprendre pourquoi est-ce qu 'on a telle ou telle vidéo et puis qu 'à sécher, on demandait à avoir tel ou tel plus de contenu.
23:43Au moins, c 'est cette agentivité reprendre le contrôle de notre attention. Alors, Isabelle Chapuis, on reste sur qu 'est-ce qu 'on fait maintenant. Ensuite, on va élargir à la question beaucoup plus méta. Mais qu 'est-ce qu 'on fait en Suisse dans ce dossier des jeunes et des réseaux ? Il y a plein de choses qui sont en préparation. Il y a des motions, des interventions qui fourmillent. Il y a deux gros morceaux qui sont sur votre table. D 'abord, c 'est une loi, une loi fédérale sur la réglementation des plateformes. en gros, je la résume à la hache, mais en gros qui demande un peu plus de transparence de la part des plateformes.
24:14Et puis il y a une initiative dite initiative internet qui suivra son cours, qui est accueillie assez favorablement dans à peu près tous les partis, qui va un peu plus loin, qui demande aux plateformes, c 'est aussi le cas de la loi, d 'avoir pignon sur rue, d 'être responsabilisé, d 'être éventuellement rattrapable et sanctionnable. Un pignon sur rue, qu 'on puisse les attraper surtout. Qu 'on puisse les attraper. Tout ça c 'est bien, Mais pourquoi j 'ai l 'impression que c 'est un peu timide ? Alors, c 'est terriblement timide. C 'est -à-dire que cette loi telle qu 'on nous l 'a proposée, elle est un peu vide de substance.
Read the full transcript
24:45Quand on parle juste de transparence alors qu 'on a une arme, on nous dit qu 'il faut tirer la prise. Donc, effectivement, je pense que les réactions, que ce soit des parlementaires que nous sommes ou de toutes les parties prenantes, a été quand même de dire maintenant il va falloir revoir cette copie. Les consultations qui ont eu lieu jusqu 'à il y a quelques jours, sont certainement très remplies de propositions pour aller bien au-delà de juste la transparence. Il faut arrêter, on en a parlé avant, il y a cette question des dark patterns, il y a la protection des enfants. Expliquez-nous les dark patterns.
25:21Oui, les dark patterns, c 'est quelque chose qu 'on connaît tous, pour ceux qui ont des enfants, évidemment. Alors, un exemple, ce sont pour ceux qui ont Snapchat, c 'est de devoir faire des flammes. C 'est -à-dire qu 'il va falloir envoyer des photos à tout le monde, tous les jours. ce qui est un peu une aberration en fait aussi bien écologique que numérique qu 'intellectuelle exactement parfois ce sont même des photos toutes noires qui s 'envoient les uns avec les autres Duolingo propose ça aussi mais c 'est pour apprendre une langue c 'est la gamification il y a plein d 'autres dark patterns donc ce sont des motifs un peu sombres comme par exemple quand vous vous inscrivez à une newsletter avec un clic et si vous voulez vous désinscrire, vous devez passer par trois mots de passe que vous avez oubliés, deux codes, dix notifications, et vous n 'arrivez plus à vous désinscrire, et puis là, vous lâchez l 'affaire et vous continuez à recevoir votre newsletter.
26:17Donc ce sont vraiment des méthodes pour vous garder toujours actif et captif sur l 'écran. Qu 'est-ce qu 'on peut faire, nous, vous, législateurs suisses, contre cet enfer que vous nous décrivez ? Alors d 'abord, il y a déjà aller par le biais, on va dire, des outils démocratiques qu 'on a à disposition, comme répondre à une consultation. Mais on sait aussi que ça n 'est qu 'une. Nous ne sommes que consultés, ça ne veut pas dire à la fin que ça va aller dans la loi. Donc c 'est vrai que nous avons vu il y a une semaine, maintenant peut -être deux, l 'initiative Internet, qui elle demande d 'aller plus loin, d 'inscrire dans la Constitution des règles assez strictes par rapport à ces grandes plateformes, et qui touche d 'ailleurs tout ce qui est l 'algorithme, la nocivité de l 'algorithme.
27:02Et ça, évidemment, vous avez dit avant, ça va suivre son cours en parallèle de la loi qui va être écrite. Mais je pense que ça mettra une certaine pression. Donc si la population signe cette initiative, c 'est clair que le Conseil fédéral va quand même le sentir. Il faudra frapper fort, pardon, quand même, pour la suite. Prenons l 'exemple de l 'Union européenne qui a laissé faire pendant des semaines, des semaines, GROC, donc l 'intelligence artificielle d 'Elon Musk, Parce qu 'il suffisait d 'avoir une commande, transforme-moi cette photo d 'une personne totalement dénudée. Il a fait eu des semaines pour que l 'Union Européenne agisse mollement et qu 'Elon Musk fasse de la cosmétique autour et que ça continue à faire.
27:36Donc il faut vraiment, si on fait une législation au niveau suisse, et si possible arrimer après à ce qui se fait en Europe, se donner les moyens de faire peur à ces gérants de la tech, se donner aussi les moyens de vérifier si on arrive à le faire, les algorithmes à l 'intérieur, parce que c 'est vraiment le cœur du problème, le cœur du noyau. Juste là-dessus, pardon, la Commission européenne est en train de taper maintenant sur TikTok, et non plus pour des histoires de violations du règlement général de protection des données, mais pour le manquement supposé de TikTok à ses obligations de protection des mineurs, avec cette fois des amendes qui pourraient se chiffrer en milliards, vu qu 'au bout du compte c 'est un pourcentage du chiffre d 'affaires.
28:10Est-ce que ça, ce bras armé européen, il est susceptible de porter ses fruits ? Oui, si on agit vite, beaucoup plus fort, si on n 'a pas des procédures de recours qui durent des années et des années, pendant lesquels il ne se passe rien, la réglementation ne se met pas en place et ces gens de la tech continuent à accroître le périmètre de leur territoire. Raphaël Moin, puis Jean-Cel. Oui, moi je suis évidemment d 'accord, il faut frapper fort et au cœur de la bête. L 'enjeu est de taille, on a un certain nombre d 'instruments qui sont prêts. Simplement, là je suis navré de briser peut -être l 'optimisme qui règne autour de cette table, mais pour l 'instant on sent un pouvoir de lobbyisme, notamment des GAFAM, qui est terrible.
28:46Je vous donne un exemple. est-ce que vous savez sur quelle plateforme le Conseil fédéral communique quand il a quelque chose à dire ? Sur X ? Je ne sais pas si vous mesurez ce que ça signifie. Le gouvernement d 'un État souverain... C 'est pas le seul, tous les États souverains. Je parle de la Suisse, parce qu 'on est en Suisse. Donne en gros de l 'argent à Elon Musk et lui donne davantage de pouvoir en communiquant ces informations, tout ce qu 'il y a de plus officiel, par X. Et donc là, ça soulève aussi la question en plus de s 'en prendre au cœur de la bête, notamment sur la transparence, la possibilité de calibrer les contenus pour les utilisateurs, ça pose aussi la question des alternatives.
29:21Et je lance cette idée ici, qui est peut -être un peu subversive pour aujourd 'hui, mais un jour, peut -être, il faudra une infrastructure, pourquoi pas sous l 'égide de la SSR, puisque maintenant on a gagné la votation. Ah, non, XSSR, voilà une bonne idée. Mais sérieusement, c 'est -à-dire qu 'on se pose la question, le service public, on regarde la télé. Est-ce que c 'est normal que quand on passe de la télé à notre téléphone, on soit subitement dans l 'empire d 'Elon Musk et non plus dans le service public ? qui est contrôlé démocratiquement et qui a toute une série de garanties de transparence, on aime ou on aime pas les émissions d 'Alexis Favre, mais c 'est quand même la réalité mais tout le monde adore, la SSR elle n 'a pas encore essayé, mais c 'est une excellente idée on va la noter, mais d 'autres l 'ont fait, Blue Sky a tenté de proposer une alternative j 'en descends, j 'entends de ma chaise ça s 'appelle faire une Roger Nordman, je vais vous remonter votre chaise attendez j 'entends de ma chaise, c 'est tellement subversif je vais régler la chose hop, normalement on y arrive, voilà Merci beaucoup.
30:13Où est-ce que j 'en étais avec cet projet ? Oui, c 'est nécessaire pour tenter la chose. Oui, non, Blue Sky, d 'autres ont essayé de lancer, mais ça illustre ce qu 'on dit, le pouvoir de marché est tellement grand que vous ne pouvez pas lutter. Mais Blue Sky, Mastodon, c 'est magnifique, c 'est des initiatives intéressantes, mais ça ne peut rester qu 'un marché de niche, parce qu 'il n 'y a pas le pouvoir de la force de frappe qui peut concurrencer les grands. Et ça ne peut venir, à mon avis, que d 'une initiative publique. Et c 'est peut -être encore trop putopiste, mais quand on voit l 'importance que ça a pris sur nos vies, sur nos démocraties, on y arrivera.
30:43Un jour ou l 'autre, on y arrivera. Je vois Marc Ugnadi qui lève le doigt. Après, je vous donne la parole, Isabelle Chapuis. Oui, écoutez, moi, ce que j 'aimerais dire, c 'est que là, on entend énormément de suggestions, à la fois nationales, institutionnelles, etc. Moi, je pense qu 'il faut vraiment voir les choses en grand. Je pense qu 'il faut avoir un cap, en fait, pour toutes ces mesures qu 'on envisage. Et ce cap ne peut être qu 'universel, général et abstrait. Contrairement à ce qu 'on pense généralement, et je pense que cette idée peut paraître vraiment subversive, c 'est que, contrairement à ce qu 'on pense généralement, l 'urgence, ce n 'est pas de fixer des âges limites, ce n 'est pas de réguler tel ou tel contenu ou d 'interdire dans les écoles ou que sais-je.
31:32L 'urgence, c 'est d 'avoir un cap, un cap clair. Et ce cap, ça doit être ce que j 'appelle, si vous voulez, la souveraineté de l 'esprit humain. Nous devons faire en sorte que ces business models, que ces géants du numérique se plient à nos valeurs. Aujourd 'hui, c 'est exactement le contraire qui se passe, c 'est -à-dire qu 'eux, ils ont leur business model. Et je pense que tout le monde autour de la table a compris comment fonctionne ce business model, quelle est sa nature. Et nous, nous sommes en train d 'arranger cosmétiquement, de nous adapter un peu à leur business model, parce que nous sentons que tout cela, au fond, est inéluctable, etc.
32:08Ce n 'est pas vrai, je pense qu 'il n 'y a pas de fatalité. Il faut donc fixer un cap. Ce cap, c 'est la souveraineté de l 'esprit. Et il faut se donner un cadre. C 'est à ça qu 'il faut travailler aussi. ce n 'est pas la seule solution mais c 'est à ce cadre général et universel qu 'il faut travailler c 'est pourquoi personnellement je propose une déclaration universelle des droits de l 'esprit humain et pourquoi pas une déclaration de l 'esprit humain comme patrimoine commun de l 'humanité ça empêcherait comme les fonds marins de le privatiser en permanence on va y venir dans quelques secondes on en avait déjà parlé dans l 'infrarouge et on va en reparler dans la deuxième partie de l 'émission je vous donne juste encore la parole Yannick Benhamou et Isabelle Chapit parce que vous aviez encore quelque chose à dire sur la régulation des plateformes.
32:49Oui, on parlait auparavant de WhatsApp qui offre un fantastique outil pour les moins de 13 ans. Alors, pour moi, ce n 'est même pas de la provoque. Je pense que c 'est un calcul très froid qui fait froid dans le dos, d 'ailleurs, parce que c 'est vraiment de capter des futurs adultes et puis, en quelque sorte, c 'est une fidélisation qui est préventive. Maintenant, moi, ce que je vois, parce qu 'on évoquait avant les différents moyens de communiquer, il y a les groupes WhatsApp, les groupes classe, pour ceux qui ont des enfants. C 'est fantastique le groupe classe. Vous postez, évidemment, tiens, t 'as pas tes devoirs, tu peux me faire...
33:24C 'est pratique, mais c 'est déjà fidéliser les jeunes sur une plateforme qui appartient aux Etats-Unis, aux grands... Et donc on en revient au problème du business model. Mais c 'est le business model, mais il y a des alternatives. Le seul problème, c 'est que quand vous dites à votre enfant ou vos enfants que vous allez en sortir, c 'est un suicide social. Donc il y a un moment donné, il faut peut -être imposer quand même des utilisations d 'alternatives comme tréma, comme signal, je ne sais pas si c 'est possible, mais enfin, de donner... C 'est un suicide social et puis c 'est un suicide auditif dans le salon familial aussi.
33:56Yannick Vénabou, on enchaîne ou encore un mot sur la régulation des plateformes ? Volontiers, juste brièvement, il y a énormément de choses que j 'aurais voulu compléter, mais peut -être juste un point sur la régulation ou les moyens, je crois que ça a été vaguement dit, mais l 'un n 'exclut pas l 'autre, donc il y a tous les moyens à la fois qu 'il faut mettre en œuvre et à l 'échelle nationale, il y a différents moyens, dont pignon sur rue, avoir une représentation et des amendes, et qu 'à déchirant, criminaliser les personnes concernées, les CEOs. Pénaliser les CEOs, ça, ça peut faire peur.
34:21Exactement, et à l 'échelle internationale, j 'en ai tout à fait ce que disait notre collègue à l 'étranger, donc d 'avoir un cadre international, oui. D 'ailleurs, Genève aurait un rôle à jouer, je trouve, d 'ailleurs, en plus, l 'année prochaine, il y a le sommet de l 'IA qui aura lieu à Genève, donc là, il y a une invitation, à mon avis, à thématiser cette question. Ça fait déjà deux bonnes idées dans cette émission. Donc, par contre, il faut juste être prudent sur les mots et comment on va créer cette notion de patrimoine commun ou droit à l 'attention, il y a plusieurs initiatives notamment en Europe, un droit à l 'attention pour éviter de perdre son attention et il y a aussi le droit à l 'intégrité numérique en Suisse, mais je voulais juste dire qu 'il y a aussi un choc civilisationnel parce que vous prenez les régions comme les Etats-Unis ou l 'Asie pour eux, on vit à l 'âge de pierre donc nous on focalise sur les droits humains mais si on veut avoir un cadre international avec un consensus, je pense qu 'il faudra juste être prudent sur les termes et l 'angle d 'approche.
35:13C 'est hyper important. Eh bien, on va en parler de ce cadre et du sujet en grand dans la deuxième et dernière partie de l 'émission. Jusqu 'où est-ce que ce fonctionnement de plus en plus algorithmique du monde et d 'à peu près tout, en fait, est-il en train de défier les capacités de notre cerveau ? Figurez-vous que c 'est la question longue de Jean-Marc Allon ce soir.
35:44Et les ingénieurs de la Silicon Valley ont cessé depuis longtemps de programmer des ordinateurs pour se transformer en programmateurs de comportement humain. C 'est pas moi qui l 'ai dit. C 'est Giuliano D 'Ampoli dans son dernier bouquin, L 'heure des prédateurs. Alors quand on parle de comportement humain, on ne parle pas uniquement des ados dont on vient de parler, on parle de nous aussi, les adultes, qui avons un développement à priori à peu près terminé. Bon, parlez pour vous, Jean-Marc. Mais nos cerveaux restent particulièrement malléables et sensibles aux algorithmes, aux réseaux sociaux et notamment à l 'intelligence artificielle.
36:17Cette intelligence artificielle qui débarque de manière assez massive dans nos vies avec les chatbots, chat GPT, pour ne pas le nommer, sur lesquels on s 'appuie de plus en plus pour tout et n 'importe quoi, que ce soit pour écrire une lettre, un CV, que ce soit pour un conseil beauté, savoir quelle nouvelle couleur de cheveux se faire, mais ça peut aussi aller beaucoup, beaucoup, beaucoup plus loin. Je vous propose de regarder un extrait du temps présent de jeudi passé. C 'était une conférence de la psychiatre belge Caroline Doppel. Qu 'est-ce que vous pensez ? Quelle proportion d 'utilisateurs de chatbot déclarent l 'avoir utilisé pour parler de difficultés émotionnelles ?
36:52Est-ce que vous verriez plutôt 5%, 20%, 40%, 70 % ? En effet, environ entre 35 et 45 % l 'utilisent. Et c 'est devenu, dans la plupart des études, la première utilisation des chatbots. C 'est comme coach de vie, comme aide relationnelle, comme meilleur ami, comme psychothérapeute. 35 à 40 % des utilisateurs qui parlent de leur état d 'âme, de leurs angoisses, à leur intelligence artificielle, c 'est impressionnant. Et les conséquences, on l 'a évoqué, sont parfois dramatiques, parce qu 'il y a eu plusieurs cas de personnes qui se sont suicidées après avoir longuement conversé avec leur chatbot.
37:32Marc Ougni a dit, quand on voit l 'impact de ces technologies sur nos comportements, sur la façon dont nous pensons, sur notre cerveau, sur la façon dont nous prenons nos décisions, jusqu 'à quel point est-ce que ces algorithmes ne sont pas en train de tuer finalement l 'esprit humain ? Mais c 'est exactement ça, et vous l 'avez très bien dit. Vous avez parlé au début de programmeurs de comportements humains. Mais vous voyez à quel point c 'est important. Parce que ça dépasse largement la question, simplement, je dirais, des troubles cognitifs, des troubles mentaux, comme on les entend habituellement, c 'est -à-dire les troubles de l 'attention et ce genre de choses.
38:10Il s 'agit de programmer nos comportements. Ça veut dire que ce système algorithmique est en train véritablement de créer une nouvelle forme d 'existence. Et nous devons nous adapter en permanence à cette forme d 'existence. Cette forme d 'existence, elle est faite d 'obéissance permanente aux machines. Nous sommes sans arrêt en train d 'obéir à des machines. Il faut mettre nos codes, il faut mettre nos mots de passe et tout. C 'est une obéissance aux machines. Nous devons faire ce que la machine attend de nous avant de pouvoir faire ce que nous pouvons faire. Donc nous sommes, et c 'est unique, si vous voulez, dans l 'histoire de la technique et dans l 'histoire de l 'humanité, qu 'on doit à ce point obéir à des machines et dans tout le domaine de l 'existence humaine.
38:58Ça veut dire qu 'on est dépendant des machines, on est mis sous tutelle des machines, et ces machines, elles sont programmées. Elles sont programmées par des gens que nous ne connaissons pas. Nous ne savons pas leurs intentions. Peut -être eux-mêmes ne savent-ils pas exactement ce qu 'ils veulent, mais en tout cas, nous sommes sous cette tutelle. C 'est pour ça que je dis que vraiment le problème c 'est celui d 'un cadre universel, d 'un cap véritablement qui doit maintenir non pas justement la colonisation de l 'esprit et des comportements humains par la machine, mais au contraire la souveraineté de l 'esprit humain sur les machines.
39:32Ces machines doivent être au service de l 'épanouissement humain et ce n 'est pas à nous d 'être au service des géants du numérique et des comportements qu 'ils nous imposent. Jean-Marc, je dois vous renvoyer en régie pour la fin de l 'émission, si vous êtes d 'accord. Merci d 'avoir soulevé cette excellente question, parce que tout le monde a envie d 'y répondre. Anoush Setagia. Oui, on est au tout début de ceci, puisqu 'on sait que bientôt, OpenAI va lancer un mode érotique dans le chat de GPT. Ça a été repoussé deux fois, parce qu 'ils remarquent qu 'ils n 'arrivent pas à calculer l 'âge des utilisateurs, et qu 'il y a encore plein de millions d 'utilisateurs potentiels qui sont faits des mineurs, qui pourraient accéder à ceci.
40:07Pour être très clair, le mode érotique de le chat de GPT, vous prenez la photo de qui vous voulez, vous dites faites-moi un film porno avec cette personne et puis vous le faites. Ça pourrait être souci, mais déjà simplement des interactions textuelles avec ChatGPT pour avoir une sorte de petite amie ou petite amie virtuelle avec qui on pourrait se confier en permanence ou avoir des relations numériques. Ça, on n 'en est vraiment pas très très loin, ça pourrait être lancé. Encore une fois, Elon Musk le propose déjà. Donc effectivement, on va aller encore plus loin dans cette dérive-là. Et puis, je reviens par rapport à ce qu 'a été dit auparavant, le mot de souveraineté, qui est très important.
40:36On voit aujourd 'hui qu 'il y a des moyens de faire un petit peu différemment. Prenons un exemple suisse, vous parlez du sommet d 'IA qui aura lieu l 'année prochaine ici à Genève au niveau mondial, on voit par exemple que Proton, grosse boîte tech basée à Genève, a lancé sa propria qui s 'appelle Lumo et le patron indienne disait nous on a lancé ceci parce qu 'il y a plein de gens qui veulent dire des choses à des IA, se confier leurs problèmes personnels et puis ils ne veulent pas faire, ils ont peur que leurs données partent ailleurs ou soient utilisées ou soient recrachées à d 'autres utilisateurs donc pour eux on a lancé ceci.
41:05Mais ça c 'est la solution ou c 'est pire ? C 'est les gentils parmi les méchants ? Oui mais si c 'est gentil et se multiplient si on leur donne de plus en plus la parole, ça peut être une utilisation peut -être intéressante aussi de l 'IA par rapport à des gens qui n 'arrivent pas à confier certains problèmes personnels. Donc voilà, ce n 'est pas tout noir ou tout blanc. Et encore une fois, on peut avoir des solutions alternatives souveraines, basées ici, correspondant à nos valeurs qui peuvent peut -être résoudre certains problèmes et ne pas aller vers cet apocalypse dont on parle effectivement régulièrement.
41:30Isabelle Chapuis, vous êtes assez raccord avec Marc Cugnadi et sa proposition pour une déclaration universelle des droits de l 'esprit humain puisque vous vous agitez pas mal sous la coupole avec des interventions pour protéger ce que vous appelez, vous, l 'intégrité cognitive. On parle de la même chose. La liberté de penser. C 'est ça. Parce que le mécanisme, quand on se dit, ok, on obéit à des machines, d 'accord, on rentre des codes, mais on peut encore avoir l 'impression qu 'on peint le diable sur la muraille, ce qu 'on craint, l 'intégrité cognitive, s 'il faut la protéger, ça veut dire que les capacités cognitives sont en danger.
42:00Ça veut dire, quel est le phénomène à l 'œuvre ? Un étourdissement, un atrophissement, atrophissement, ça se dit ? Non, une atrophie. Une atrophie. Une atrophie. Un engourdissement, un étourdissement du cerveau qui deviendrait juste plus bête. Moi, je pense qu 'il y a une double peine cognitive. C 'est -à-dire qu 'il y a une peine extérieure, parce que quand vous communiquez avec un LLM, un grand modèle de langage, comme ChatGPT, par exemple, souvent, on a l 'impression de parler à un oracle ou alors encore une encyclopédie numérique qui est neutre, alors qu 'elle est basée sur un set de données qui, elles, ne sont absolument pas neutres.
42:32Et le curseur de la valeur, il n 'y a qu 'une personne qui la décide. C 'est soit une par chatbot, On va dire, ce sera soit Sam Altman, soit... – Arthur Penal. – Voilà, exactement, ou bien encore Elon Musk. Donc là, le problème qu 'on a, c 'est qu 'on ne décide plus de ce qu 'on voit, on ne décide plus de ce qu 'on pense, in fine, parce que c 'est eux qui choisissent ce qui apparaît sur notre fil d 'actualité. Ça, c 'est peut -être pour la manipulation extérieure. Il y a une manipulation intérieure qui a été étudiée aussi, c 'est -à-dire que plus vous utilisez, je pense qu 'il y a beaucoup de gens qui utilisent maintenant des intelligences artificielles pour se faciliter la vie, pour rédiger.
43:10On l 'a vu, 40 % pour des conseils de vie. Alors, pour ça aussi, mais c 'est vrai que ce qu 'on a constaté, il y a eu une étude l 'été dernier du MIT qui s 'appelle Your Brain on ChatGPT, donc votre cerveau sur ChatGPT, qui prouvait qu 'en fait vos capacités cognitives, donc de penser, de réfléchir, sont diminuées. Et ce, durablement, si on abuse de ce type d 'outils. Maintenant, c 'était 54 personnes qui avaient été analysées, ça a été beaucoup décrié par les les grandes GAFAM, il y a deux mois ou un mois et demi, une nouvelle étude, une méta -étude est sortie, mais qui est très, très, très claire.
43:46Vous utilisez trop de LLM. Vous deviez mettre. Votre capacité de penser, elle s 'affaiblit. Yannick Benhamou, on vit dans un monde qui pense à tout, dans tous les moindres recoins, dans le monde analogique. La fumée, la nourriture, la responsabilité des uns et des autres. Quand il y a une catastrophe, on veut être sûr de prendre toutes les mesures sociétales qu 'il faut pour que la catastrophe ne se reproduisent plus, on l 'a encore vu très récemment en Suisse, et il y a un domaine pour lequel tout ceci n 'existe pas, c 'est le monde numérique, la société numérique, le sujet dont on est en train de parler.
44:15Comment ça se fait béni général, trouille devant un problème beaucoup trop gros pour nos petits cerveaux, c 'est quoi le problème ? Non, je ne pense pas à s 'enverser dans l 'optimisme ou le techno-optimisme, je suis plutôt positif sur le fait que les régulations s 'installent, la difficulté par rapport à l 'analogique, c 'est que c 'est moins tangible dans l 'espace numérique, on n 'est pas comme dans la cours d 'une école ou dans l 'espace public où on voit quelqu 'un insulter un autre. On ne se rend peut -être pas compte qu 'on devient bête quand on devient bête. Alors il y a aussi le fait, maintenant, si on prend les chatbots et l 'intelligence artificielle, quand on délègue son propre raisonnement à la machine, progressivement on ne se rend effectivement pas qu 'on ait une déqualification, une perte de ses compétences, ce qui est d 'ailleurs un grand enjeu.
44:54La perte de compétences et on a tous, nous, à l 'université, dans les hautes écoles, et je présume au DIP aussi, le souci de savoir comment garder son esprit critique, garder sa capacité de raisonnement, et on est en train de mettre des programmes en place. Donc je pense que pour s 'enverser trop dans l 'optimisme, chaque instance, chaque personne est en train de prendre ses responsabilités. Il me semble que les autorités, alors peut -être timidement, mais quand même on y arrive avec différentes lois, différentes régulations, les autorités éducatives mettent en place des programmes, en tout cas pour l 'Université de Genève, c 'est ce qu 'on fait.
45:24Et puis, pour revenir à la régulation, il y a cette notion que j 'évoquais de l 'agentivité où je pense que c 'est important que l 'internaute soit plutôt proactif et d 'avoir des paramètres qui permettent d 'intervenir. Alors, on va avoir un problème technique puisqu 'il nous reste trois minutes et que vous avez tous envie de parler. Rapidement, Anouche. Je reviens à mon fils de 11 ans. Il commence à être initiale informatique à l 'école par rapport aux cookies. Mais ce n 'est pas ça dont il faut parler. C 'est que chat GPT avec qui tu discutes, ce n 'est pas quelqu 'un, c 'est une machine. Et du coup, là, l 'école a encore beaucoup, beaucoup à faire.
45:53Et les parents ont un sacré job à faire par rapport à ci. Mais peut -être l 'éducation doit être beaucoup plus améliorée en Suisse. Raphaël, la survie de l 'esprit humain, ce n 'est pas ça la priorité de la législature ? – Si, ça passe par des mesures volontaires, mais là, sur ce point, je suis malheureusement un peu moins optimiste, c 'est -à-dire que la puissance de feu des GAFAM et de ce modèle d 'affaires est telle que ça a freiné les régulations. Je disais, le Conseil fédéral qui communique sur X, quand on est venu avec ce sujet, par exemple, des deepfakes, les images manipulées qui causent des dégâts mais colossaux, pas seulement pour les jeunes, le Conseil fédéral nous répond non, mais écoutez, c 'est bien pour l 'innovation, en gros.
46:33Il ne faut pas brider l 'innovation. Vous vous rendez compte aussi qu 'on est à un stade de l 'histoire où on est vraiment à la croisée des chemins et certains ne veulent pas prendre ce chemin de la régulation, du courage ou de la sauvegarde de l 'esprit humain. Et ceux qui veulent doivent beaucoup lutter contre le courant. Et ce courant est très, très puissant, malheureusement. Très rapidement, puis je donne le mot de la fin à Marc Oignali. J 'ai une dernière question pour lui, Isabelle Chaplin. Je reconnais qu 'il y a un narratif qui a été imposé, qui est que réguler, c 'est freiner l 'innovation.
47:00j 'y crois pas de base il est bien implanté mais il est faux à mon avis on a mis des ceintures de sécurité dans les voitures ça n 'a pas tué l 'industrie automobile c 'est pas surposé à l 'époque avec les mêmes arguments justement et c 'est pour ça qu 'en fait moi vous parliez justement de l 'intégrité cognitive que je défends et qui devrait être dans la constitution devrait être au dessus des intérêts économiques et bien voilà Marc Ougnadi, toute dernière question Jouez le jeu, répondez en 30 secondes. En échange, je rappelle le titre de votre livre, la Déclaration universelle des droits de l 'esprit humain, une proposition qui accompagnait l 'initiative Rise for the Mind, levez-vous, levons-nous pour protéger l 'esprit humain.
47:43Les coordonnées s 'affichent si ça vous intéresse. Julien O'Day, me polifait d 'ailleurs partie de votre initiative. Question provocatrice, réponse en 25 secondes. Comment est-ce que vous sortez du camp, pardon, mais des ringards, c 'est -à-dire dans lequel je m 'inscris ? C 'est -à-dire que comment est-ce qu 'on fait pour faire comprendre éventuellement que lutter pour l 'esprit humain, ce n 'est pas être un technophobe et un horrible réactionnaire ? Non, je pense que ce qu 'il faut absolument chercher, c 'est aussi le sens de ma proposition, c 'est une cohabitation harmonieuse avec ces technologies.
48:14Vous voyez, ces technologies, l 'extension du numérique, de l 'intelligence artificielle, c 'est un fait inéluctable. On ne l 'arrêtera pas et ce n 'est même pas désirable de l 'arrêter. Ce qu 'il faut, c 'est le cadrer et lui donner un certain sens un certain cap. C 'est ça qu 'il faut faire et je ne pense pas du tout que ça soit contre l 'innovation, c 'est juste avoir une certaine innovation qui soit au service de l 'esprit et des comportements humains. Eh bien, merci mille fois d 'avoir joué le jeu avec cette réponse brève. Merci à tous les cinq d 'avoir été avec nous ce soir. On reviendra évidemment sur ce sujet.
48:45On va faire encore 15 émissions, même si on en a déjà fait 8. C 'est probablement un des deux gros sujets du siècle. On verra quel est l 'autre. Marc Oignadi, pour ceux que ça intéresse, on vous retrouve dans Géopolitice. Je fais un peu de pub à mes confrères. Excellente émission dimanche à 13h. Pour approfondir le même sujet, nous on se retrouve la semaine prochaine, même lieu, même heure, je ne sais pas de quoi nous parlerons. Tout de suite, tout de suite, Selma sur la RTS, excellente soirée, ici ou ailleurs. Bye bye. ...
49:13... ... ...
49:27Sous-titrage ST' 501
From the publisher
Alors que toujours plus de pays réfléchissent à interdire les réseaux sociaux aux plus jeunes et que Meta et YouTube sont accusés devant la justice américaine de ruiner la santé mentale des ados, WhatsApp annonce une fonctionnalité... pour les moins de 13 ans. Alors comment mettre une bonne fois pour toutes les jeunes à l'abri de l'appétit destructeur des GAFAM ? Au-delà de la jeunesse, quels dommages les algorithmes et l'IA sont-ils en train de faire à nos cerveaux ? Et pourquoi les laisse-t-on faire ? Réseaux sociaux, algorithmes, IA : comment protéger nos enfants et nos cerveaux ? C'est le débat d'Infrarouge, mercredi 18 mars.




