Le Focus. Il faut absolument sécuriser l’Intelligence artificielle qui doit être un formidable outil aux dangers maîtrisés

Le président français, Emmanuel Macron, et le premier ministre canadien, Mark Carney, ont organisé lundi dernier une réunion intitulée «IA et sécurité» à laquelle ont participé des Etats, des chercheurs et des entreprises qui développent l’intelligence artificielle dont les plus importantes des démocraties, Anthropic, OpenIA, Mistral et Micrsoft.

A l’issue de celle-ci, un «Appel de Paris pour la sécurité de l'intelligence artificielle» a été signé (lire ci-dessous).

Assurer la sécurité de cette technologie qui prend de plus en plus d’importance dans la vie quotidienne des personnes mais aussi dans l’organisation du monde est primordial tant elle recèle aussi de dangers qui ont fait la Une des médias récemment quand des experts et des développeurs ont pointé les risques concernant l’existence même de l’Humanité.

Bien sûr, toute nouvelle technologie n’est pas neutre comme nous le rappelle le nucléaire capable de détruire la vie sur la planète mais aussi d’assurer une énergie qui nous sera de plus en plus nécessaire au fil et à mesure que disparaîtront les énergies fossiles et en la mixant avec des énergies comme le solaire, l’éolien, l’hydraulique, le géothermique, la biomasse et celles qui proviennent des mers (marémotrice, houlomotrice, thalassothermique).

Mais il faut absolument que cette technologie soit maîtrisée le plus possible et que les avantages procurés soient d’une dimension nettement plus considérable que les risques encourus.

La question se pose avant tout pour ce qu’on appelle l'intelligence artificielle générative.

Cette technologie qui est capable de créer de nouveaux contenus (textes, images, sons, vidéos, codes informatiques), comporte moult dangers ainsi que le révèle le rapport de la Commission « IA générative et vulnérabilités », intitulé «Protéger sans empêcher : les vulnérabilités à l’ère de l’IA générative» qui vient d’être remis à Emmanuel Macron.

Celui-ci identifie trois risques principaux: l'affaiblissement et la dette cognitive (avec des risques de réduction des facultés cognitives lors de l'usage des chatbots pour l'écriture) ; la dépendance émotionnelle liée à l'anthropomorphisation des agents conversationnels et leur tendance à flatter l'utilisateur au détriment de la vérité) ; les menaces démocratiques (désinformation, persuasion accrue des contenus générés par IA, biais et absence de contradictoire).

Pour sécuriser son utilisation, le rapport préconise 18 propositions afin de protéger les mineurs, d’éduquer la population à son utilisation et à ses dangers et de renforcer la répression contre les dérives, des deepfakes à la pédocriminalité.

En l’état actuel du développement de l’IA, de nos capacités à s’en servir sans risques et des doutes concernant ses possibilités destructrices, nous devons prendre toutes les précautions pour que ce qui est un formidable outil ne devienne pas notre pire cauchemar.

 

►Appel de Paris pour la sécurité de l'intelligence artificielle.
Nous réaffirmons notre intérêt partagé et notre responsabilité commune dans le développement d’une intelligence artificielle avancée sûre, sécurisée, utile et largement accessible à tous. Le développement responsable de ces technologies et l’adoption de systèmes d’IA fiables constituent des moteurs sans précédent du progrès économique, scientifique et social de nos nations.
Notre ambition est de poser les fondations nécessaires à une adoption sûre. Les modèles d’IA de frontière transcendent les frontières nationales dans leur développement, leur déploiement et leur impact ; leurs opportunités comme leurs risques sont donc intrinsèquement mondiaux. Nous avons tous un rôle à jouer pour protéger nos sociétés tout en permettant la recherche, l’innovation et un usage plus large de l’IA. Il est de notre responsabilité collective de protéger les citoyens, les entreprises et les institutions, tout en favorisant un environnement propice à la recherche, à l’innovation et à l’adoption généralisée de ces technologies. Aucun acteur, qu’il s’agisse d’un État, d’une entreprise ou d’une organisation internationale, ne peut gérer seul l’ensemble de ces risques. À cet égard, les efforts continus des décideurs publics, des chercheurs et des entreprises d’IA ont jeté les bases d’une coopération concrète en vue d’agir, notamment dans le cadre du processus d’Hiroshima, des engagements en matière de sûreté de l’IA de frontière pris lors du Sommet de Séoul sur l’IA, de la réunion du G7 d’Évian sur l’IA, de la réunion du Conseil de sécurité des Nations unies sur l’IA tenue le 23 septembre et de l’« Appel pour le contrôle des modèles d’IA de frontière ».
Les échanges de ce jour ont mis en évidence trois domaines fondamentaux de consensus : la nécessité d’un cadre réglementaire clair, compréhensible et prévisible ; l’urgence d’obtenir des résultats tangibles et immédiats en matière de transparence, de signalement des incidents, de gestion des risques et de vérification ; et la nécessité absolue de mettre en œuvre des normes d’évaluation rigoureuses.
La présente déclaration traduit notre engagement à apporter une contribution substantielle et à accélérer la mise en œuvre de ces priorités.
Afin de rendre opérationnelle cette vision partagée, nous nous engageons aujourd’hui à établir un cadre structuré de coopération reposant sur trois engagements stratégiques majeurs :
- Premièrement, les décideurs publics, les chercheurs et les développeurs s’engagent à établir un cadre commun pour l’évaluation et la gestion des risques des modèles d’IA de frontière, en s’appuyant sur les cadres existants. Ce cadre serait étayé par des normes techniques, des outils et des méthodologies d’évaluation communs, qui suivent le rythme des progrès des capacités des modèles d’IA de frontière, en mettant particulièrement l’accent sur l’atténuation des usages malveillants dangereux, notamment dans les domaines cyber et NRBC, ainsi que des risques découlant d’une autonomie croissante ou d’un défaut d’alignement des modèles, y compris la perte de contrôle. À cet égard, nous nous engageons à renforcer la coopération technique et reconnaissons le rôle que peuvent jouer les réseaux existants, notamment le Réseau international pour la mesure, l’évaluation et la science de l’IA avancée (NAAIMES), pour rendre les méthodes et les résultats d’évaluation plus comparables et plus accessibles aux pays des différentes régions.
De plus, nous convenons de publier les conclusions non sensibles de nos évaluations dans un format standardisé afin d’en garantir la comparabilité, et de créer un référentiel partagé accessible au public. Celui-ci pourrait comprendre des protocoles de « red-teaming », des outils d’étalonnage (« benchmarking »), des évaluations des risques et des résultats de tests de résistance.
- Deuxièmement, nous affirmons le principe de responsabilité et de redevabilité de l’ensemble des acteurs de l’écosystème de l’IA, en fonction de leur rôle dans cet écosystème.
Nous nous engageons à garantir le strict respect de normes de sûreté rigoureuses, établies ou reconnues par les autorités nationales compétentes, tout au long du cycle de vie des modèles, sous le contrôle de ces autorités et avec une évaluation par des tiers crédibles, compétents et indépendants, afin de favoriser la confiance nécessaire entre toutes les parties prenantes et de permettre une adoption plus large de l’IA. Des incitations claires peuvent être utilisées pour encourager la priorité donnée à la sûreté et à la sécurité dès la phase de conception et tout au long du cycle de vie.
Les décideurs publics reconnaissent la nécessité de veiller à ce que les cadres juridiques clarifient les responsabilités et la redevabilité en cas de dommages à grande échelle, afin de protéger les intérêts des personnes concernées, y compris lorsque le préjudice est transfrontalier, et d’offrir ainsi aux entreprises d’IA la sécurité juridique nécessaire à leur développement économique.
Les développeurs de modèles d’IA de frontière s’engagent à divulguer les capacités, les limites et les risques connus des modèles et, lorsque cela est approprié et proportionné au risque, à faciliter l’évaluation des modèles par des évaluateurs indépendants qualifiés, selon les modalités appropriées et conformément aux pratiques et arrangements existants. Les développeurs s’engagent également à mettre en place des mécanismes de sécurité intrinsèque (« fail-safe ») permettant d’interrompre le fonctionnement des modèles placés sous leur contrôle, y compris pendant l’entraînement et l’utilisation interne (par exemple restrictions, pauses ou arrêts).
Reconnaissent le risque que représente la suppression ou le contournement des garde-fous ainsi que l’importance de traiter ce risque tout en préservant les bénéfices du développement de modèles à poids ouverts à des fins de recherche, d’innovation et de sûreté.
Reconnaissent l’importance d’une gouvernance interne imposant des pratiques continues de gestion des risques, un suivi en temps réel des capacités émergentes, un « red-teaming » interne rigoureux et des circuits de signalement transparents protégeant les chercheurs internes. Les développeurs s’engagent à œuvrer à une structure de gouvernance claire, dotée de responsabilités définies, de ressources adéquates et d’un contrôle indépendant.
- Troisièmement, les décideurs publics, les chercheurs et les développeurs s’engagent en faveur du partage d’informations, du signalement et de systèmes d’alerte précoce. Le déploiement de systèmes d’alerte rapide, s’appuyant sur les dispositifs pertinents existants de réponse aux incidents, y compris en matière de cybersécurité, est essentiel pour prévenir les risques systémiques en cascade et pour élaborer des réponses collectives aux menaces émergentes, afin de permettre leur résolution rapide et d’en limiter les conséquences et les effets concrets.
Nous reconnaissons l’intérêt de renforcer les dispositifs de signalement existants afin de nous accorder sur la classification des incidents et de partager en temps utile des informations sur les incidents graves de nature cyber ou liés au contrôle de l’IA, ainsi que sur les autres signaux précurseurs significatifs de préjudices graves, que ce soit entre entreprises et gouvernements, entre gouvernements ou entre entreprises d’IA, et d’examiner si un mécanisme de coopération serait utile et quel pourrait en être le périmètre.
Les décideurs publics s’engagent à offrir des canaux sécurisés et confidentiels permettant aux lanceurs d’alerte, y compris les salariés et les autres parties prenantes concernées, de faire part, sur la base de motifs raisonnables, de leurs préoccupations relatives aux risques systémiques, sans crainte de représailles juridiques ou professionnelles.
[Déclaration signée par les chefs d’États et de Gouvernements et les dirigeants des entreprises et d’organisations suivants :
États : Kenya, Bahreïn, Canada, Finlande, France, Norvège, Pays-Bas, Chypre
Entreprises : Anthropic, Black Forest Labs, Cohere, Domyn, Hugging Face, Microsoft, Mistral AI, OpenAI, Sakana AI, Synthesia, Centre Géopolitique de la Datasphère, GPAI Policy Lab
Société civile : LawZero (Yoshua Bengio), SaferAI (Henry Papadatos), AI Safety Connect (Nicolas Miailhe), Ifri (Laure de Roucy-Rochegonde)
La déclaration reste ouverte à de nouveaux soutiens et est mise à jour.]

 

 

Le Focus. Etats-Unis – Qui a gagné les élections, le Centre ou la Gauche?

Selon une étude du Financial Times intitulée «La ‘gauche radicale’ fait la une des journaux, mais les centristes dominent le nouveau Congrès américain», ce sont les centristes qui ont permis au Parti démocrate de remporter les élections de mi-mandat.

Dans le même temps, dans le Guardian, une sociologue américaine de gauche, Heba Gowayed, prétend le contraire dans un article intitulé «Ce n’est pas le Centrisme qui a permis au Parti démocrate de gagner les élections».

Qu’en est-il?

Selon les analyses faites après cette écrasante victoire des démocrates, le premier ciment est le rejet voire la détestation de Trump.

D’autre part, il est vrai que nombre de candidats du parti classés à gauche voire de gauche radicale ont remporté un siège et leurs thèses gagnent en visibilité et en popularité dans son électorat et plus généralement dans la société.

Reste que ce sont les centristes qui ont fait basculer le Congrès sachant que c’est dans des circonscriptions traditionnellement républicaines qu’ils se sont imposés – alors que les candidats classés à gauche ont le plus souvent remporté des sièges dans des circonscriptions traditionnellement démocrates – et qu’ils domineront le Congrès, ce qui signifie que rien ne passera à la Chambre des représentants ou au Sénat sans leur accord.

Il y a d’ailleurs un certain consensus chez les analystes politiques.

Ainsi, si la gauche donne de plus en plus le ton des débats idéologiques et génère de l'audience, ce sont  en revanche les centristes qui détiennent le pouvoir mathématique et la gouvernance réelle au sein du nouveau Congrès.

Ce qui ne signifie pas pour autant que la gauche du Parti démocrate ne sera qu’un faire-valoir.

Elle aura sans nul doute une influence sur la politique que suivra le parti et pourra se faire beaucoup mieux entendre de la population avec une exposition médiatique plus grande et sera capable parfois d’entraver les initiatives du Centre.

Une des questions principales qui se posent déjà pour les démocrates est de savoir si ses élus du Congrès seront unis et porteront une même dynamique ou s’ils se diviseront entre plusieurs courants qui se feront face dans une sorte d’opposition plus ou moins feutrée selon les cas.

Une première réponse sera donnée lors de l’élection du Speaker (président) de la Chambre des représentants et de celle du chef de la majorité au Sénat.

Les deux leaders actuels sont le représentant Hakeem Jeffries et le sénateur Chuck Schumer, deux centristes contestés par l’aile gauche qui pourrait refuser de voter pour eux et provoquer une crise au sein du parti.

C’est ce que redoutent nombre de démocrates et ce qu’espèrent évidemment les républicains qui appuieront sans nul doute là où ça fait mal afin de créer la zizanie chez leurs adversaires et démontrer qu’ils sont incapables de gouverner.

Ils ont deux ans avant la présidentielle pour y parvenir alors que le Parti démocrate doit tout faire pour éviter une désunion qui servirait surtout à l’aile radicale du Parti républicain et aux desseins autocratiques de Trump.

 

 

Point de vue. A Mélenchon et Le Pen: pourquoi ne pas rendre l’Alsace-Lorraine à l’Allemagne, la Corse et la Côte-d’Azur aux Italiens?!

Madame Le Pen et monsieur Mélenchon nous disent qu’il faut contenter monsieur Poutine dans ses demandes territoriales qui seraient justifiées par l’Histoire et qui permettraient de mettre fin à son agression de l’Ukraine.

Au-delà de récompenser un criminel de guerre qui a envahi un pays qui ne lui avait rien fait en ciblant les civils pour les tuer, enfants compris, si nous partagions le point de vue de ces deux extrémistes, alors nous, les Français, devrions rendre l’Alsace-Lorraine à l’Allemagne, la Corse mais aussi la Côte-d’Azur et peut-être la Savoie aux Italiens, sans oublier la Catalogne et le Pays basque aux Espagnols, voire Lille et Calais aux Belges!

Et dans la foulée accorder l’indépendance à la Bretagne et à la Provence…

On peut ainsi démanteler tous les pays du monde en se basant sur certaines périodes de leur histoire et de leur construction.

D’ailleurs, madame Le Pen et monsieur Mélenchon, c’est plutôt à l’Ukraine qui devrait récupérer la partie occidentale de la Russie et la Biélorussie, relisez vos livres d’histoire!

Non, madame et monsieur qui aspiraient à diriger la France, on ne cède pas des bouts de son pays devant ses ennemis parce qu’ils auraient soi-disant un droit éternel sur ceux-ci, ce qui, en plus, est un mensonge pour l’Ukraine.

Alors, oui, monsieur Zelensky est dans son droit de défendre sa patrie et tout son territoire reconnu juridiquement par la communauté internationale et nous sommes dans le droit et la justice de le défendre et, par là-même, de nous défendre contre le même ennemi qui s’appelle Poutine.

Tous ceux qui soutiennent les revendications illégitimes de Poutine ne sont pas dignes de diriger un pays comme la France qu’ils pourraient brader comme ils veulent brader l’Ukraine.

Et ils s’appellent Marine Le Pen et Jean-Luc Mélenchon.

 

 

Commentaire. Trump, un vieux monsieur menteur et corrompu à la vengeance pathologique qui risque de partir en vrille

Ne jamais reconnaître une défaite et toujours croire que l’on a raison, telle est la leçon majeure que le mentor de Trump, l’avocat d’extrême-droite Roy Cohn, lui a apprise.

Après une faiblesse lors des résultats des élections de mi-mandat où il a reconnu la défaite du Parti républicain – mais pas la sienne alors que c’est essentiellement le cas – et qu’il a même parlé de travailler avec un Congrès à l’écrasante majorité démocrate, il s’est bien vite repris pour parler d’élections truquées et pour nommer un de ses pires sbires, le raciste d’extrême-droite, Stephen Miller, au poste de de directeur de cabinet (chief of staff) qui a des pouvoirs très étendus dans l’Administration américaine qui sont souvent comparés à ceux de premier ministre en France et sans doute pour nommer comme son porte-parole Dana White, un ancien videur devenu président de l’UFC qui organise des combats d’art martiaux...

Et, en tant qu’extrémiste populiste, qui sait ce qu’il va faire dans ces deux mois où l’ancien Congrès à majorité républicaine est encore en poste, sans doute rien de bon pour les Etats-Unis et le monde si l’on s’en tient à ses deux dernières années de pouvoir.

A cela, il faut ajouter son état mental et physique qui ressemble le plus souvent à celui d’une personne sénile, ses comportements de menteur compulsif et invétéré et sa corruption sans frein.

Sans oublier sa volonté de vengeance pathologique.

Dès lors, on peut craindre légitimement qu’il parte en vrille – beaucoup plus que ce qu’il n’a fait jusqu’à présent – avec les conséquences désastreuses que cela pourrait avoir.

En deux ans de son deuxième mandat, il a fait tant de mal à son pays et à la planète que l’on imagine ce qu’il peut faire dans les deux ans qui viennent.

Il peut notamment instaurer plus qu’un climat de guerre civile aux Etats-Unis, faire alliance avec Poutine et donc Xi pour instaurer un nouvel ordre mondial dominé par les puissances totalitaires et qui mettront en danger de mort toutes les démocraties dont celles d’Europe en premier lieu, mener des guerres compulsives qui dérègleront l’économie mondiale et bien d’autres choses que son cerveau dérangé, son appât du gain et sa volonté de gloire lui dicteront.

Que nous en soyons bien conscients et, surtout, les élus démocrates qui vont devoir le gérer et le contenir jusqu’en 2028, voire l’empêcher de prendre le pouvoir au-delà de cette date.

 

 

 

Le Focus. Trump entre en résistance contre les démocrates et la démocratie

Comme l’écrit le New Yorker, «son nouveau chef de cabinet pourrait bien nous montrer à quel point la dernière étape du Trumpisme pourra être horrible et douloureuse», un homme que le magazine qualifie de «son idéologue le plus fidèle et le plus agressif».

Voilà sans doute la première réponse de l’extrémiste populiste à son naufrage électoral du 3 novembre alors que certains commentateurs avaient imprudemment affirmé qu’il était sonné et prêt à travailler avec les démocrates.

Ce qui prouve une nouvelle fois cette incapacité pour beaucoup de monde de comprendre qui est vraiment Donald Trump et quels sont ses desseins.

Pour le New York Times, «la promotion de M. Miller, qui a dirigé la répression de l’immigration par l’administration, témoigne d’un redoublement d’efforts de la part du président en faveur de politiques que les électeurs ont rejetées de manière décisive lors des élections de mi-mandat».

Une promotion qui «témoigne d’un redoublement agressif de la part de M. Trump» envers ses opposants mais aussi la majorité des électeurs qui ont voté contre lui.

Et de poursuivre: «le choix du président a envoyé un signal clair sur la posture qu’il entend adopter au cours de ses deux dernières années de mandat et sur le peu de changements qu’il entend faire en réponse à la déroute politique la plus décisive depuis un demi-siècle».

Pour savoir comment Trump entend gouverner les deux prochaines, il suffit d'écouter les propos de Miller lors d’une interview à CNN:
«Nous vivons dans un monde, dans le monde réel qui est gouverné par la puissance, qui est gouverné par la force, qui est gouverné par le pouvoir. Ce sont les lois d’airain du monde depuis la nuit des temps».

Et sa réaction après la déroute trumpienne, n'est guère équivoque: «la mission est désormais plus claire que jamais : lutter de toute notre âme pour soutenir notre président».

L’hôte de la Maison blanche a donc décidé l’affrontement plutôt que la collaboration.

Il possède moult pouvoirs importants pour mener une guerre larvée ou ouverte contre le Congrès.

Reste à savoir, non pas s’il va tenter de paralyser ce dernier, mais comment il va faire et qui va le suivre, notamment la Cour suprême où siègent six juges sur neuf qui partagent largement ses idées.

 

 

Commentaire. Défaite de Trump: quelles leçons pour la France

Alors que l'extrême-droite populiste vient de subir un revers historique aux États-Unis, elle est en passe de prendre le pouvoir en France.

De même alors que le Centre est rejeté par une majorité de Français, il a été plébiscité par les Américains.

Bien sûr les situations dans les deux pays sont à l'opposé puisqu’aux États-Unis, c'est l'extrême-droite qui était au pouvoir alors que c'est le Centre qui y est en France jusqu'en mai prochain.

Néanmoins, l'expérience trumpiste peut dire beaucoup de ce que le RN Lepéniste fera en France et fera à la France.

De même, le choix des Américains en faveur d'un Parti démocrate essentiellement au centre/centre-gauche est instructif pour les Français.

Si les électeurs étasuniens ont rejeté Trump et ses amis, c'est parce qu'il est incapable de gérer l'économie et qu'il a fait des promesses intenables.

Mais c'est aussi pour la corruption de sa personne et de son administration ainsi que pour ses amitiés avec Poutine et ses décisions erratiques comme le déclenchement d’un conflit contre l’Iran.

Sans oublier la division qu'il a installé dans le pays avec des politiques xénophobes et racistes qui n'avaient souvent rien à voir avec la question de l'immigration.

Ses causes ressemblent fort à ce qu'est Le Pen et le RN...

L'exemple américain devrait être un avertissement pour tous ceux qui s'apprêtent à voter pour l'extrême-droite. 

Ainsi les centristes doivent se saisir de la déroute de Trump et de ses raisons pour rappeler que le programme économique du RN est non seulement une farce aux promesses infaisables mais qu’il enverrait le pays dans le mur, que la corruption de Le Pen et du FN/RN a été établie par les tribunaux, que l’admiration de Trump pour Poutine est équivalente à celle de Le Pen pour le despote russe dont il ne faut oublier qu’il a renfloué les deux extrémistes populistes lors de leurs problèmes financiers et que les positions xénophobes et racistes que le couple Trump-Le Pen partagent peuvent les amener à déraper comme la chasse aux faciès de ICE aux Etats-Unis.

Quant à la division du pays, la victoire du RN serait un déclencheur d’un affrontement dont on ne peut exclure malheureusement la violence.

Enfin, Le Pen et Trump ont comme amis communs tous les dictateurs et autocrates de la planète d’hier, d’aujourd’hui et de demain, de Poutine que nous avons cité plus haut à Orban en passant par Farage et Meloni.

Bien sûr la France n'est pas les États-Unis, mais Le Pen ressemble furieusement à Trump, ce qui, selon elle, est un compliment...