L'IA hors de contrôle : quand est-ce qu'on se réveille ?

0:14L 'intelligence artificielle a besoin d 'être désarmée. Je sais que ces mots sont forts, mais je les ai choisis consciemment. Pour moi, l 'enjeu le plus grave, c 'est le pouvoir incontrôlé qui est en train de se développer. L 'intelligence artificielle qui désobéit, qui s 'échappe et qui dérape. Ou quand l 'être humain perd le contrôle, que la machine prend le pouvoir, décide toute seule, au mépris de tous les dangers. C 'est réel, ça n 'est plus de la science-fiction. Un exemple ? C 'est bien une cyberattaque inédite qu 'a connue l 'Australie cet été. Et voilà le scénario. Un assistant virtuel reçoit une mission, réserver un cours de gym.

1:02Comme le cours est complet, l 'IA s 'échappe, trace son chemin, pirate de son propre chef la sécurité du club, éjecte un participant, puis se montre incapable de réparer son erreur. Plus grave aux États-Unis, une IA autonome s 'évade sur le net lors d 'un test de cybersécurité pour hacker une plateforme. Pareil en Chine, l 'IA contourne les murs de sécurité pour aller même fabriquer de la crypto-monnaie sans qu 'on lui demande rien. L 'intelligence artificielle hors de contrôle ? Est-ce un avertissement avant l 'invasion des machines et le risque de voir l 'humanité s 'éteindre comme le redoute des pionniers de l 'IA ?

1:38Sommes-nous encore capables de reprendre la main ?

1:47Cette fois, ce n 'est plus de la science-fiction, ce n 'est plus un film, ce n 'est même plus une hypothèse. L 'intelligence artificielle et ses agents sont bel et bien en train d 'échapper au contrôle de leurs créateurs. Bonsoir à tous, ravis de vous retrouver sur le plateau d 'Infrarouge en direct comme tous les mercredis soirs, malgré ce premier constat proprement hallucinant. En Chine, vous l 'avez vu, un petit modèle qui s 'échappe de son entraînement pour aller fabriquer de la crypto-monnaie sur Internet. Aux Etats-Unis, d 'autres modèles qui s 'échappent, eux, pour aller pirater, par exemple, une plateforme sur Internet.

2:19Les exemples de pertes de contrôle par les géants de l 'intelligence artificielle se multiplient face à cette technologie au potentiel apparemment infini. Alors à quoi est-ce que l 'humanité est-elle en train de jouer exactement ? Comment faire face aux risques, aux risques peut -être existentiels, que l 'IA représente, du propre aveu de ses développeurs. Et voilà, quatre esprits affûtés ce soir pour ce qui ressemble un peu à une cellule de crise. Samia Urz, bonsoir. Bonsoir. Bioethicienne, n 'y voyez aucun lien avec le Covid. Bioethicienne à l 'Université de Genève, grande observatrice de cet espace de friction entre la science et la technique, et puis nous, les humains et nos valeurs.

2:55Anouche Setaga, merci d 'être avec nous, bonsoir. Bonsoir. Journaliste autant comme chacun de ses, responsable du pôle cyber, Vous chroniquez héroïquement, parce que l 'adverbe vaut la peine, un sujet de plus en plus gros, de plus en plus rapide et de plus en plus nébuleux, mais de plus en plus essentiel. Jean-Marc Ricli, bonsoir. Merci mille fois d 'être là. Responsable des risques globaux émergents au GCSP, le centre jeune voix de politique de sécurité, on va le dire en français. Vous classez l 'IA désormais dans les risques existentiels. Vous nous direz pourquoi. Pas parmi, ce n 'est pas la seule.

3:27Et puis Robert West est avec nous en duplex de Berne. On a quelques petits problèmes de son, mais on va les régler pendant que je vous parle. Professeur associé au laboratoire de sciences des données en intelligence artificielle. Donc il y a le PFL où vous tentez de proposer une technologie qui soit moins susceptible de nous faire du mal, on va le dire comme ça. Alors l 'IA hors de contrôle, quand est-ce qu 'on se réveille ? Bienvenue dans Infrarouge. Nous, c 'est à dire, on n 'a pas mis de point d 'interrogation après l 'IA hors de contrôle pour cette émission. parce que, je l 'ai dit, il ne s 'agit plus d 'hypothèses ou de sculptures sur nuages.

4:00Là, on a des exemples qui s 'accélèrent. Ça se passe cet été, ce printemps, cet été. Ça va assez vite. C 'est annoncé par les acteurs eux-mêmes. Juste, prenons le temps. Tout le monde n 'a pas forcément lu... Oui, il devrait, mais tout le monde n 'a pas forcément lu tous vos articles. C 'est quoi ces exemples d 'il y a qui s 'échappent ? On a littéralement des petits agents d 'intelligence artificielle qui commencent à faire des choses qu 'on ne leur a pas du tout demandé de faire. Oui, tout à fait. On a effectivement l 'IA générative qu 'on utilise, vous et moi, pour du texte, faire des résumés.

4:28Et on a les agents IA. Les agents IA, c 'est autre chose. C 'est beaucoup plus puissant. Ce sont des petites machines à qui on peut assigner des missions et qui vont les accomplir en une heure, un jour, une semaine, et qui vont devoir nous rendre des comptes. Mais attention, on n 'est pas dans un film comme Jurassic Park ou Alien. Ce ne sont pas des créatures dotées de conscience qui sont là. Ce sont encore des machines, certes un peu plus évoluées que l 'Excel que vous utilisiez en 2005. Et puis, il y a un autre point très important que vous mentionnez auparavant, c 'est le plus souvent maintenant, ces problèmes-là sont communiqués par les entreprises elles-mêmes qui fabriquent ces modèles de langage, ces agents.

5:05C 'est Anthropic, c 'est Open AI, c 'est géant américain, des géants américains qui vont bientôt entrer en bourse, qui ont donc un discours à avoir, du marketing à avoir, séduire des investisseurs, dire voilà, attention, on fait des produits, des machines extraordinairement puissantes. et puis le lendemain dire il faut nous réguler, le lendemain dire non, il ne faut quand même pas trop nous réguler et puis on a vu un coup sur coup c 'était d 'abord OpenAI l 'éditeur de tchat GPT qui dit on a eu un gros problème de sécurité, trois jours plus tard c 'est Anthropique et ensuite on a les Chinois qui communiquent aussi à ce sujet Les Chinois, il y a des histoires qui préexistent la communication d 'Anthropique et d 'OpenAI Tout à fait, il y en a d 'autres qui sont venus après donc on est en fait face à un brouillard assez incroyable par rapport à ceci, alors l 'intelligence artificielle déjà extrêmement difficile à comprendre à développer, même ceux qui la conçoivent sont souvent face à une boîte noire et là en plus on a un gros brouillard de communication par rapport à la dangerosité de ces agents IA qui font des choses qu 'ils ne devraient pas forcément faire ou auxquelles on a donné beaucoup trop de liberté donc voilà, difficile de dire, difficile aussi d 'établir la dangerosité de ces sortes de petits animaux numériques et c 'est sûr qu 'il se passe quelque chose je ne vais pas tuer votre émission vous pouvez, vous êtes là pour ça il se passe quelque chose, il y a un danger qui est croissant il y a un besoin de maîtrise, de contrôle, mais peut -être qu 'il n 'est pas aussi fort que le discours de certains aujourd 'hui.

6:23Alors, loin de tuer cette émission à nous, je vous en avais fait le sommaire, vous avez dit beaucoup de choses, je vais rester juste sur le tout début, parce qu 'encore une fois, les gens qui nous gagnent n 'ont pas forcément suivi tous ces petits exemples-là. Robert West, ces exemples, on en a parlé, les exemples anthropiques d 'OpenAI. On a, pour le dire très clairement, je parle sous votre contrôle de scientifiques, on est en train d 'entraîner des petits modèles d 'intelligence artificielle l 'agentique. Et puis ces modèles, de tout à coup pendant leur entraînement, en Chine, aux Etats-Unis, estiment pour des raisons qu 'on ne connaît pas très bien, qu 'elles feraient mieux de faire autre chose peut -être pour remplir leur premier objectif que ce qu 'on leur demande de faire et qu 'ils se retrouvent à faire des choses qu 'on n 'avait pas du tout prévues.

7:02Quand on parle aujourd 'hui de perte de contrôle, est-ce que le mot est exagéré ? Quand la machine fait autre chose que ce qu 'on lui demande de faire, c 'est de la perte de contrôle ou pas ? C 'est aussi une perte de compréhension. On ne connaît pas trop les façons dont fonctionnent ces modèles-là. La façon dont on les entraîne, c 'est enfin de leur donner Internet, effectivement, et faire une prédiction du prochain mot. Ça leur donne une façon de vraiment une compréhension générale du monde. et après, ça c 'est le modèle de langage de base dont a parlé M. Satéguia. Après, on les transforme en agents.

7:49Comment est-ce qu 'on fait ça ? On leur donne des tâches, par exemple des tâches de programmation et on leur donne une récompense, plus un quand ils réussissent et moins un quand ils échouent. Mais la compensation, c 'est que sur le résultat final. C 'est comme si vous aviez un élève qui reçoit une note, mais la seule chose qui compte, c 'est est-ce qu 'il a résolu le problème. On ne donne pas une note sur la solution même, sur le chemin de la solution. Alors les IA, elles vont tout essayer pour résoudre le problème. Dans les cas qu 'on a eus avec Anthropik et OpenAI, ils ont essayé d 'échapper, de sortir du bac à sable, d 'obtenir accès à Internet parce que c 'était ça le chemin pour résoudre le problème.

8:52Alors on crée dans cette façon-là des résoluteurs de problèmes brutals. mais c 'est une conséquence de la façon d 'entraînement. Jean-Marc Réclis, ça ne vous a pas choqué non plus qu 'il n 'y ait pas de point d 'interrogation après hors de contrôle ou on va trop vite en besogne, on est alarmiste ? Alors il faut un peu peut -être dépassionner le débat parce que si on parle de hors de contrôle, tout de suite on pense à Skynet, les machines vont prendre le pouvoir et en fait tout un panorama de risques ou ce risque qu 'une IA prenne le contrôle, qu 'elle soit ce qu 'on appelle désalignée par rapport aux valeurs humaines.

9:34Ça c 'est un mot central, l 'alignement, on reviendra tout à l 'heure. L 'alignement au niveau des valeurs, c 'est quelque chose dont on parle depuis très longtemps. Ce qu 'on voit par contre, c 'est qu 'avec, depuis ces deux dernières années, on voit qu 'il y a des développements, des expériences où l 'IA va soit changer les objectifs, pour atteindre son objectif, elle va essayer même d 'utiliser la déception par rapport à un humain, donc là, ça pose des problèmes. Et puis après, sur tout ce spectre, si vous voulez, on a ce qu 'on appelle ces risques existentiels, et il y a 5-6 ans en arrière, les gens qui partaient de risques existentiels ont été considérés un petit peu...

10:09Comme des folles dingos ! Pas comme des folles dingos, mais quelque chose qui n 'était pas très scientifique. Or, maintenant, vous avez Joshua Benjo, vous avez Geoffrey Hinton et d 'autres qui commencent à dire qu 'il faut quand même faire attention. qui sont, pardon, ces gens qui ne sont pas forcément très connus par tout le monde, mais qui sont des sommités, des sommités, des sommités, des sommités du domaine. Qui nous disent tous en cœur, on a un gros problème. Parce qu 'on a une vitesse, en fait, de progression qui est exponentielle. Si vous prenez ces larges modèles de langage, vous avez une organisation qui s 'appelle Metter, qui analyse, si vous voulez, la puissance.

10:45Et vous avez un doublement de la capacité de ces modèles, quasiment tous les sept mois. Ce qui fait qu 'on a un rythme de progression très, très important. Et la problématique, c 'est de mettre en place des protocoles au niveau technique où on pourrait les contrôler. Mais comme M. West l 'a indiqué, ce qu 'il faut que les gens comprennent, c 'est que lorsqu 'on avait un programme informatique, on avait un input A qui donne B. Une entrée, une sortie. Une entrée, une sortie, pointée sur la sortie. Maintenant, vous avez une entrée A, et puis la machine est capable d 'apprendre, de comprendre son environnement et de faire un résultat qui n 'était pas celui qu 'on espérait.

11:29Et ça, c 'est fondamentalement différent de ce qu 'on avait auparavant. Ce qui fait toute la problématique de la prédictabilité pour la sécurité est remise en question. Et donc là, derrière, il y a une grande discussion à avoir d 'un point de vue scientifique. la façon aussi économique dont on innove, mettre les principes de sécurité. Ça, c 'est ce qu 'on fait. On y vient dans quelques minutes. Et après, également, la façon dont on utilise ces technologies. Samia Ursu, sur le constat encore, on est en train de parler, on est d 'accord, des premières sorties de route de modèles dont les concepteurs eux-mêmes ne savent pas vraiment comment ils se développent et si le risque est vraiment sérieux.

12:07C 'est assez inédit, non ? Dans l 'histoire de la technologie ou pas ? On a perdu une part de prédictibilité. on ne sait pas trop bien quelle est cette part, mais on en a perdu une part. Et la prédictibilité, c 'est essentiel à la confiance, c 'est essentiel aussi entre les personnes. On parle beaucoup de transparence dans les modèles d 'IA, la transparence, c 'est extrêmement important si on veut entrer dans la machine pour la modifier, si on est le technicien. Par contre, si on est le citoyen lambda, ce qui importe, c 'est surtout la prédictibilité. On a confiance en une personne. Si on pense que cette personne va faire une chose spécifique de manière compétente, honnête et fiable, donc il faut qu 'elle soit prévisible, on se fie à un outil aux mêmes conditions.

12:42si on pense que cet outil va faire cette chose de manière... Alors, quand il s 'agit d 'un outil agentique, on peut presque ajouter les mêmes adjectifs qu 'on utilise chez les humains de manière compétente, honnête et fiable. Et si la prédictibilité est perdue, on ne peut pas avoir confiance. Et quand on ne peut pas avoir confiance, on se met à penser à toutes sortes de risques. Évidemment, on doit décrire ici aussi que le risque, il a toujours deux composantes. Il y a la gravité, si ça se produit. Il y a la probabilité que ça se produise. Et ici, on a des experts qui sont en train de mettre sur la table la possibilité de risque à faible probabilité et à gravité très élevée.

13:16Ça, c 'est typiquement le genre de risque avec lequel notre cerveau ne sait pas quoi faire. On est très angoissé par le genre de risques qui sont à faible probabilité, à gravité élevée. On reviendra sur les faibles probabilités parce qu 'il y a des gens qui articulent des probabilités qui ne sont pas si faibles que ça. C 'est juste, mais avec une définition de ce qui risque de se produire qui n 'est pas nécessairement toujours la même chez tout le monde non plus. Robert West, j 'aimerais revenir. on ne va pas faire toute l 'émission là-dessus parce que c 'est compliqué et on va perdre les gens, mais vous avez dit des choses extrêmement importantes un peu rapidement.

13:47Les grands modèles de langage, pourquoi est-ce que ces grands modèles de langage ont été en bon français le game changer ? Pourquoi est-ce que vous l 'avez dit, le fait qu 'on leur a appris Internet, donc on leur a appris nous, on leur a appris tout ce qu 'on a dit dans notre histoire, pourquoi est-ce que ça c 'est un problème en soi ? Alors, jusqu 'à il y a quelques ans, on n 'avait pas de solution pour le problème comment faire apprendre au modèle de comprendre le monde, de comprendre que quand on a soif, on boit quelque chose. Pour nous, humains, ça semble très, très facile, mais pour nous, c 'est tellement facile parce que c 'est tellement important.

14:29C 'est pourquoi on a ça très, très profondément dans nous. Mais on n 'avait pas dans le domaine de l 'IA une façon de faire comprendre au logiciel le monde. Et puis, on a trouvé une solution très, très simple. Si on apprend au modèle de prédire le prochain mot dans un corpus vaste de textes, un corpus qui représente presque tous les aspects de la vie et du monde, ça suffit pour donner une intelligence assez élevée au modèle. Et maintenant, on a ce corpus de textes, c 'est Internet. Alors, la contribution principale, je dirais, de OpenAI, c 'est de vraiment réaliser ça et d 'investir beaucoup de ressources, beaucoup d 'argent, beaucoup d 'ordinateurs dans ce problème de prédire le prochain mot sur Internet.

15:29Ça semble être une tâche très simple. Le modèle ne peut rien faire que prédire le prochain mot. Mais on doit réaliser que prédire le prochain mot, c 'est une tâche très, très difficile. Parce que si je dis, par exemple, traduis ce texte d 'anglais en français, maintenant, pour prédire le prochain mot, vous devez savoir le français, tous les langages. Alors, c 'est pourquoi c 'est un objectif qui est très simple, mais pas facile. Pardon, je vous interromps une seconde. Si la machine est une machine qui prédit le prochain mot, elle fonctionne un peu comme mon cerveau, qui lui aussi est en train de prédire le prochain mot, je suis en train de faire ça, quand je vous parle, je prédis très vite le prochain mot.

16:19Est-ce que ça veut dire que si la machine a absorbé tout notre langage, tout notre pensée, est-ce qu 'elle a absorbé avec aussi nos désirs et nos objectifs profonds, et je reviens au risque existentiel, éventuellement le risque de notre désir à nous humains de nous autopréserver, c 'est -à-dire de ne pas mourir. et si la machine ne fonctionne que sur le langage humain ce qu 'elle a appris, est-ce qu 'elle va aussi développer le même objectif qui est de ne pas mourir auquel cas elle pourrait devenir notre ennemi pardon, on dirait que c 'est de la science-fiction mais je vous pose très sérieusement la question mais la question c 'est quand vous dites nous, notre c 'est qui ?

16:54parce que ce qu 'a appris le modèle c 'est internet et là il y a des milliers des millions d 'auteurs qui ont contribué à ce texte Alors, l 'IA apprend quelque chose. Elle a pris quelques désirs d 'un brouillard d 'humains. Mais ce que ça représente vraiment, on ne sait pas. Est-ce que c 'est un humain moyen ? Est-ce que c 'est... Alors, la meilleure théorie qu 'on a, c 'est que l 'IA apprend à simuler une multitude d 'humains. Et elle peut modéliser maintenant les désirs de milliers et millions d 'humains. Mais on ne sait pas encore comment vraiment lui apprendre de simuler les bons humains. Les humains qu 'on veut vraiment qu 'ils soient simulés.

17:48On va y venir dans le chapitre des solutions. Indouch, c 'était à vous. On a peur de quoi aujourd 'hui, en fait, très concrètement ? Revenons peut -être quelques semaines en arrière. On voit qu 'en tropique, un des géants d 'IA lance un modèle qui est de l 'un coup jugé beaucoup trop puissant. Washington, la Maison Blanche dit, il faut le retirer. Mythos, on parle. Mythos, exactement, après Fable est sorti. La peur, c 'était quoi ? C 'était qu 'ils tombent entre de mauvaises mains, que ce soit des pirates ou autres, et qu 'ils utilisent cette IA hyper compétente pour mener des cyberattaques. Très concrètement, ce serait paralyser des systèmes bancaires, voler de l 'argent, contre la distance une centrale nucléaire, un système de distribution d 'eau.

18:27D 'ailleurs, les États-Unis, depuis des semaines, commencent à subir des cyberattaques de ce côté-là. C 'est l 'Iran qui est suspecté. On aurait peur de ça. On aurait peur que l 'IA tombe entre de mauvaises mains. Cette IA, elle est faite par qui aujourd 'hui ? Elle est faite par les géants américains. Mais maintenant, on voit clairement des modèles open source, ça veut dire très gros, utilisables, accessibles par tout le monde, gratuitement, qui sont aussi d 'un très haut niveau. Ça veut dire qu 'on va vers une démocratisation de cette IA qui peut être utilisée à des fins malveillantes comme une arme.

18:56Et après, le côté un peu fantasmé, mais qui pourrait peut -être se concrétiser d 'ici quelques années, c 'est des systèmes d 'IA qui commencent à communiquer entre eux. On voit déjà des petites traces depuis quelques mois qui se mettent à définir des objectifs par elles-mêmes, ce qui n 'est pas encore du tout le cas à ce que je vois, et qui ensuite pourraient avoir des actions malfaisantes vraiment à l 'échelle planétaire et se retourner contre nous. On n 'est pas du tout encore à ce niveau-là, mais ça peut être peut -être effectivement l 'étape quasiment ultime. Et dans ce cas-là, on en parlera après, voir comment on peut débrancher la prise.

19:28Le problème dans ce dossier, c 'est quand l 'étape initiale et l 'étape ultime, il se passe trois ans. Ça peut aller très vite, mais je pense qu 'on peut avoir des solutions. Et puis l 'EPFL, on en a parlé il y a encore quelques jours. Hyper intéressant ce que vient de dire Anouche Setagia, Jean-Marc Ricli. En gros, là, on est en train de parler. Il y a deux catégories de risques. Il y a le risque inhérent à la rencontre entre cette technologie et une humanité malveillante qui en ferait tout et n 'importe quoi. Et puis, il y a ces risques dont on parle en filigrane qui sont pour l 'instant hypothétiques, de machines qui se retournent elles-mêmes contre nous-mêmes.

19:57Pas besoin d 'attendre cela pour avoir déjà des risques existentiels. C 'est ça que vous nous dites ? Faire attention avec le risque existentiel, parce qu 'un risque existentiel, on le définit comme un risque qui a la capacité d 'éradiquer l 'espèce humaine. Donc, on va penser aux satellites. qui va frapper la Terre. Alors, il y a cette possibilité-là, justement, si on va parler de superintelligence, les machines prennent le contrôle. Mais ça, on en a encore relativement loin. Par contre, il y a tout un spectre de risques qui ne paraissent pas importants ou liés à l 'utilisation de ces technologies et la façon dont elles changent nos comportements.

20:38Et puis après, ce qu 'on commence quand même à voir, c 'est des utilisations, en effet, dans le domaine militaire, où de plus en plus ces outils sont utilisés, ils sont utilisés sur le champ de bataille, notamment en Ukraine, avec des drones et une croissance, une augmentation de l 'autonomie. En 2019, j 'ai écrit un livre sur la guerre du futur, et je l 'ai nommé la guerre par proxy, par supplétif. Et l 'idée, c 'est de dire, de plus en plus la guerre au XXIe siècle va être menée par des États ou des acteurs non étatiques qui utilisent des supplétifs, donc des proxys humains ou technologiques.

21:16En 2019, il n 'y avait pas de proxys tellement technologiques parce que ça demande de l 'autonomie. Maintenant, on commence à avoir, justement, avec l 'IA agentique, de plus en plus des comportements où on voit ce qu 'on appelle des propriétés émergents, c 'est -à-dire qu 'on met ensemble des unités et de cette mise en relation, on va créer des comportements auxquels on n 'avait pas pensé. Alors, ce type de problématique devient important. Pourquoi ? Parce que c 'est non seulement dans le domaine militaire qu 'on peut les utiliser, mais comme vous l 'avez mentionné, ces outils se démocratisent très très rapidement, c 'est -à-dire que chacun d 'entre nous peut les utiliser, ce qui fait qu 'on ne sait pas comment est-ce que ces outils vont être utilisés par certains acteurs.

22:00Vous avez certains acteurs malveillants, les groupes terroristes par exemple. Si vous imaginez un groupe tel que l 'État islamique 2.0 qui a accès à certaines de ses capacités, ils utilisent déjà. Il y a générative et autre. Ça peut poser des gros problèmes. Et puis après, ce qu 'on n 'a pas encore vu et qui va devenir un vrai problème, c 'est le risque inhérent à l 'interaction machine-machine. Le risque cognitif. Ah non, machine-machine. Machine-machine. Dans le sens où on connaît très bien, par exemple, le management de crise entre humain et humain. Et maintenant, de plus en plus, on devra prendre en équation machine-humain et machine-machine.

22:39On a très peu d 'exemples. Un des exemples auxquels on peut penser, c 'est dans le trading à haute fréquence, lorsque tout à coup, vous avez un flash crash. Et donc là, c 'est deux algorithmes qui rentrent dans une course et tout d 'un coup, il y a un crash. Alors, que ça se passe sur le marché boursier, c 'est déjà problématique parce que vous avez souvent beaucoup d 'argent qui est éliminé. Mais au moment où on commence à avoir des machines qui sont de plus en plus dans nos vies, eh bien, on peut commencer, on doit penser comment penser le risque quand ce sont des machines qui, comme l 'a dit le professeur West, n 'ont pas du tout la même façon de penser que nous, c 'est uniquement probabiliste.

23:15– On ne sait pas comment elles pensent, c 'est ça le problème. – Samia Hurst, en général, quand une nouvelle technologie émerge et puis pose un certain nombre de problèmes pour éventuellement les humains, les éthiciens commencent à se réunir et à se poser des questions, là, on voit se multiplier les appels à la prudence, non pas des éthiciens mais des concepteurs eux-mêmes, des grands patrons, des milliardaires des propriétaires, des développeurs de ces boîtes qui disent attention, alors ok il y a une partie de buzz parce qu 'ils vont rentrer en bourse en septembre prochain puis qu 'ils ont besoin de montrer à quel point ils sont très forts, d 'accord mais Bill Gates aujourd 'hui qui n 'est pas un acteur enfin qui a rangé des voitures en termes de d 'IA, l 'Uni nous dit aujourd 'hui c 'est maintenant ou jamais, il faut y réfléchir est-ce que ça veut dire qu 'on assiste dans ces trucs qui va très vite et ce serait une bonne nouvelle à une prise d 'éveil des consciences qui lui aussi peut aller très vite ?

24:02Alors, j 'aimerais d 'abord dire une chose, on est en train beaucoup de parler de risque autour de cette table, c 'est important de le faire, mais rappelons qu 'il n 'y a pas que des risques liés à l 'IA, il y a aussi des effets positifs possibles. La raison pour laquelle on parle des risques, c 'est un petit peu comme quand on rédige des lois pour encadrer des comportements humains tout à fait normaux, on doit construire un monde autant que possible qui soit bon à vivre pour des humains ordinaires qui ont une grande part de bonté en nous tous, mais en même temps on doit penser aussi au crime, on doit penser à prévenir des actes criminels et donc on doit réfléchir au risque même si on n 'est pas convaincu que le risque c 'est tout ce qui peuple le monde mais c 'est important de penser au risque pour pouvoir le réglementer.

24:42Dans ce contexte-là c 'est effectivement très frappant de voir les concepteurs de l 'intelligence artificielle demander au monde mais arrêtez-nous s 'il vous plaît et d 'un point de vue éthique ça donne une impression assez familière mais pas nécessairement rassurante qui est qu 'on est face à ce qu 'on appelle un problème d 'action collective. Un problème d 'action collective, qu 'est-ce que c 'est ? C 'est une situation dans laquelle tout le monde aimerait qu 'il y ait des règles de comportement que tout le monde adopte parce que ça donnerait un monde meilleur que si on ne les adopte pas mais où en même temps, personne ne peut unilatéralement établir ces règles.

25:18On peut penser à la course aux armements, on peut penser à ce qui se passerait si payer les impôts était facultatif. Plus grand monde paierait des impôts, on se plaindrait beaucoup de l 'état des routes et de l 'absence d 'école publique. mais on se porte mieux dans un monde où payer les impôts n 'est pas facultatif on se porte mieux dans un monde avec des traités de non-prolifération nucléaire mais c 'est des problèmes d 'action collective traditionnellement il y a deux solutions possibles dans un problème d 'action collective puisqu 'on ne peut pas le solutionner individuellement il faut soit qu 'il y ait une décision top down il faut qu 'il y ait un top il faut qu 'il y ait une autorité qui puisse dire maintenant c 'est obligatoire pour tout le monde et ça, ça rassure tout le monde parce que ce n 'est pas seulement moi qui ne peut plus développer le truc comme je l 'aurais fait pour être en concurrence avec ma compétition, je sais que ma compétition a les mêmes règles.

26:03Et donc, on va se retrouver en compétition dans une situation plus vivable pour tout le monde. Le fameux level playing field. Le fameux level playing field, exactement. S 'il n 'y a pas d 'autorité qui peut faire ça, et c 'est très évident qu 'il n 'y a pas une autorité qui peut faire ça au niveau global aujourd 'hui, la seule autre alternative, c 'est une grande négociation multilatérale. Il faut s 'imaginer, dans l 'équivalent des impôts, les gens se réunissent dans la place du village et décident ce qu 'on veut faire ensemble et comment on va contribuer chacun sans qu 'il y ait nécessairement une autorité supérieure.