La menace de «surhumaine» a déclenché des frappes de la faim à l’extérieur des bureaux d’Anthropic et DeepMind
À mesure que l’IA avance, le désespoir de ceux qui essaient de l’arrêter.
Deux hommes, inquiets de la menace que l’IA pose à l’avenir de l’humanité, est maintenant en grève de la faim en dehors des bureaux d’Anthropic et Deepmind.
Pour Guido Reichstadter, un militant de 45 ans, dimanche, marqué une semaine de protestation sans nourriture. Reichstadter a déclaré à Trading Insider qu’il prévoyait de rester jusqu’à ce que l’entreprise réponde à ses préoccupations concernant la direction du développement de l’IA.
« J’appelle la direction d’Anthropic, les directeurs et les employés à arrêter immédiatement leurs actions imprudentes, qui nuisent à notre société et à travailler pour corriger le préjudice qui a déjà été causé », a-t-il écrit dans un article sur Lesswrong, un forum de discussion en ligne.
Alors que les dirigeants de l’IA de Geoffrey Hinton à Elon Musk ont sonné l’alarme sur le rythme du développement de l’IA, il n’a pas fait grand-chose pour ralentir les entreprises en concurrence pour développer l’intelligence générale artificielle, une forme toujours théorique de l’IA qui les raisons ainsi que les humains. Hinton a récemment déclaré sur le podcast « One Decision » que « de nombreuses personnes dans les grandes entreprises, je pense, minimisent publiquement le risque ».
Le PDG d’Anthropic, Dario Amodei lui-même, a émis des avertissements désastreux quant au potentiel de pertes d’emplois de col blanc. « L’IA peut éliminer 50% des emplois de col blanc d’entrée de gamme au cours des cinq prochaines années », a-t-il déclaré lors d’une conférence de développeur en mai.
« Nous, en tant que producteurs de cette technologie, avons un devoir et une obligation d’être honnêtes sur ce qui va arriver. Je ne pense pas que ce soit sur le radar des gens », a déclaré plus tard Axios à Axios.
Reichstadter demande à Amodei d’arrêter complètement le développement de Frontier. Il a déclaré à Trading Insider dans une interview téléphonique qu’il avait livré une lettre au bureau d’Amodei lors de son premier jour de protestation.
« Dans cette lettre, je lui ai demandé d’arrêter de développer cette technologie et de tout faire en son pouvoir pour arrêter la course à laquelle il participe », a-t-il déclaré. « Je lui ai dit que je serais ici devant son bureau en attendant sa réponse. »
Jusque-là, il a dit qu’il subsisterait sur l’eau, les électrolytes et les multivitamines.
Histoires connexes
Trading Insider raconte les histoires innovantes que vous voulez savoir
Trading Insider raconte les histoires innovantes que vous voulez savoir
« Dans le monde du béton dans lequel nous vivons en ce moment, tous les laboratoires frontaliers courent aussi rapidement que possible pour les systèmes surhumains entièrement généraux. C’est ce qui doit s’arrêter », a-t-il déclaré. « Je pense que de grandes choses pourraient être faites avec des systèmes très limités qui ne posent pas les mêmes types de risques. »
Reichstadter a déclaré en 2022 qu’il avait fait une grève de 15 jours sans nourriture à l’extérieur du bureau du maire de Miami pour attirer l’attention sur la crise climatique et avait l’impression qu’il aurait pu continuer. Il a dit qu’il était jusqu’à présent « se sentant bien » cette fois-ci.
Reichstadter est le fondateur de STOP AI, un groupe qui se décrit comme une « organisation de résistance civile non violente travaillant à interdire définitivement le développement de la superintelligence artificielle (ASI) pour empêcher l’extinction humaine, la perte d’emploi de masse et bien d’autres problèmes ».
Il a déclaré à Trading Insider qu’il avait déjà été arrêté pour chaîner fermé les portes des bureaux d’Openai à San Francisco. Il a dit qu’il se dirigeait vers le procès ce mois-ci.
Reichstadter a inspiré les autres. Michael Trazzi, un ancien chercheur de la sécurité de l’IA de 29 ans de France, proteste depuis trois jours, sans nourriture, à l’extérieur du siège de Londres de Deepmind.
Trazzi a déclaré à Trading Insider qu’il avait étudié l’informatique et l’intelligence artificielle à Paris et étudié la sécurité de l’IA à
Future of Humanity Institute à Oxford, qui a fermé ses portes en avril 2024. Il a passé du temps à travailler en tant qu’ingénieur d’IA et de logiciel et crée maintenant un contenu court sur Tiktok et YouTube Shorts sur la politique d’IA.
Trazzi est également préoccupé par le développement rapide de l’IA. Il a déclaré à Trading Insider que la pression collective sur les dirigeants de l’IA pour faire des déclarations publiques pourrait faciliter le changement.
« Ma seule demande est, concrètement, je veux que Demis dise qu’il ne libérerait plus de modèles de frontière si les autres laboratoires Frontier AI devaient également cesser de le faire », a-t-il déclaré, se référant à Demis Hassabis, PDG de Deepmind et l’un des pionniers de l’intelligence générale. « Si suffisamment de ces dirigeants le disent publiquement, alors vous obtenez une coordination mondiale autour d’une pause. »
Anthropic et DeepMind n’ont pas immédiatement répondu à une demande de commentaires de Trading Insider.
