Le PDG d’Uber se demande à quel point l’IA doit être intelligente pour mériter le pardon de ses erreurs

La société devra évaluer le niveau acceptable d’erreurs de l’IA dans des systèmes du monde réel comme les robotaxis par rapport à ses avantages potentiels, a déclaré Dara Khosrowshahi, PDG d’Uber.

« Une partie de l’humanité réside dans ses défauts, et nous acceptons que les humains vont faire des erreurs », a-t-il déclaré jeudi lors d’un panel au Forum économique mondial. « Je pense que l’une des questions que posent certaines applications de l’IA – la défense peut en faire partie, certainement, l’IA dans le monde physique – est la suivante : dans quelle mesure cette IA doit-elle être meilleure qu’un être humain ? »

Khosrowshahi a cité en exemple le bilan de sécurité du géant des véhicules autonomes Waymo, une filiale du propriétaire de Google Alphabet. La directrice des investissements de Google, Ruth Porat, a répondu que même si la technologie de Waymo était « significativement plus sûre » que celle utilisée par des êtres humains, « il y a plus de pardon quand c’est un humain » qui fait une erreur.

UN rapport produit par Waymo en partenariat avec la Compagnie Suisse de Réassurance, a déclaré que sa flotte de voitures autonomes était plus sûre que les conducteurs humains. Le rapport, publié en décembre, indique que les voitures de Waymo ont fait face à 90 % de réclamations d’assurance en moins liées à des dommages corporels.

Pourtant, les voitures autonomes ont été confrontées à des réactions négatives lors de certains incidents de sécurité très médiatisés. L’année dernière, Waymo a émis un rappel après que deux de ses voitures ont percuté une camionnette, alors que Le système de conduite entièrement autonome de Tesla a été impliqué dans plusieurs incidents.

Khosrowshahi a demandé comment la société devrait évaluer les erreurs des machines et des algorithmes « par rapport aux avantages de l’IA qui passe au premier plan ».

La discussion intervient alors que l’industrie de l’IA continue de s’accélérer tout en étant aux prises avec des problèmes de précision.

Apple a récemment fait l’objet d’une surveillance minutieuse pour avoir envoyé aux utilisateurs des informations trompeuses et des résumés d’actualités sensibles. De la même manière, Google a été critiqué lorsque son outil de recherche a donné des conseils mal informés aux utilisateurs, comme leur dire de mettre de la colle sur leur pizza et de manger une pierre par jour.