Sam Altman d'OpenAI affirme qu'une agence internationale devrait surveiller l'IA « la plus puissante » pour garantir une « sécurité raisonnable »
Sam Altman, PDG d'OpenAI dit qu'il souhaite réglementer l'IA avec une agence internationale.
« Je pense qu'il viendra un moment dans un avenir pas si lointain, comme nous ne parlons pas d'ici des décennies et des décennies, où les systèmes d'intelligence artificielle de pointe seront capables de causer des dommages mondiaux importants », a déclaré Altman sur le site Internet. Podcast tout-en-un vendredi.
Il estime que ces systèmes auront « un impact négatif bien au-delà du domaine d'un seul pays » et souhaite les voir réglementés par « une agence internationale examinant les systèmes les plus puissants et garantissant des tests de sécurité raisonnables ».
Selon Altman, trouver le niveau de surveillance approprié sera un exercice d'équilibre.
« Je serais très nerveux à l'idée d'une réglementation excessive. Je pense que nous nous trompons en en faisant beaucoup trop ou un peu trop. Je pense que nous pouvons nous tromper en n'en faisant pas assez », a-t-il déclaré.
Une législation visant à réglementer cette technologie en évolution rapide est déjà en cours.
En mars, l'UE a approuvé la loi sur l'intelligence artificielle, qui catégorisera les risques liés à l’IA et interdira les cas d’utilisation inacceptables. Le président Joe Biden également signé un décret l'année dernière, appelant à une plus grande transparence de la part des plus grands modèles d'IA au monde. Et cette année, l'État de Californie a pris la tête de la réglementation de l'IA alors que les législateurs examinent plus de 30 projets de loi, selon Bloomberg.
Mais Altman a fait valoir qu’une agence internationale offrirait plus de flexibilité qu’une législation nationale – et c’est important compte tenu de la rapidité avec laquelle l’IA évolue.
« La raison pour laquelle j'ai insisté en faveur d'une approche basée sur une agence pour une vision d'ensemble et non pour une rédaction législative, c'est que dans 12 mois, tout sera mal écrit », a-t-il déclaré. Il pense que les législateurs, même s’ils sont de « véritables experts du monde », ne peuvent probablement pas rédiger de politiques qui réguleront de manière appropriée les événements dans 12 à 24 mois.
En termes simples, Altman pense que l’IA devrait être réglementée comme un avion.
« Lorsqu'une perte importante de vies humaines est une possibilité sérieuse, comme dans le cas des avions, ou dans un certain nombre d'autres exemples, je pense que nous sommes heureux d'avoir une sorte de cadre de test », a-t-il déclaré. « Je ne pense pas à un avion quand je monte à bord. Je suppose simplement que ce sera sûr. »
