Un autre chercheur en sécurité quitte OpenAI
Miles Brundage, conseiller politique principal et chef de l’équipe AGI Readiness chez OpenAI, quitte l’entreprise. Il a annoncé la décision mercredi dans un poster sur X, qui était accompagné d’un Article de sous-pile expliquant la décision. L’équipe AGI Readiness qu’il supervisait sera dissoute et ses différents membres répartis entre d’autres parties de l’entreprise.
Brundage est le dernier chercheur de haut niveau en matière de sécurité à quitter OpenAI. En mai, l’entreprise a dissous son équipe Superalignmentqui s’est concentrée sur les risques de la superintelligence artificielle, après le départ de ses deux dirigeants, Jan Leike et Ilya Sutskever. Parmi les autres dirigeants partis ces derniers mois figurent Mira Murati, sa directrice de la technologie ; Bob McGrew, son directeur de la recherche ; et Barret Zoph, vice-président de la recherche.
OpenAI n’a pas répondu à une demande de commentaire.
Au cours des six dernières années, Brundage a conseillé les dirigeants et les membres du conseil d’administration d’OpenAI sur la manière de se préparer à l’essor d’une intelligence artificielle qui rivalise avec l’intelligence humaine – ce qui, selon de nombreux experts, pourrait transformer fondamentalement la société.
Il est responsable de certaines des plus grandes innovations d’OpenAI en matière de recherche sur la sécurité, notamment la mise en place d’une équipe rouge externe, qui implique des experts externes recherchant des problèmes potentiels dans les produits OpenAI.
Brundage a déclaré qu’il quittait l’entreprise pour avoir plus d’indépendance et de liberté de publication. Il a évoqué ses désaccords avec OpenAI concernant les limitations des recherches qu’il était autorisé à publier et a déclaré que « les contraintes sont devenues trop importantes ».
Il a également déclaré que travailler au sein d’OpenAI avait biaisé ses recherches et rendu difficile l’impartialité quant à l’avenir de la politique en matière d’IA. Dans son article sur X, Brundage a décrit un sentiment dominant au sein d’OpenAI selon lequel « s’exprimer coûte cher et que seules certaines personnes sont capables de le faire ».
