Aaron Jacobson, partenaire de la NEA, se prononce sur l’ouverture et la fermeture

Aaron Jacobson, partenaire de la NEA, se prononce sur l'ouverture et la fermeture

La course à l’IA devient de plus en plus compliquée.

Malgré le battage médiatique autour des derniers et plus grands modèles de pointe, les entreprises découvrent qu’elles n’ont pas toujours besoin de l’approche la plus puissante pour chaque tâche. À mesure que les modèles ouverts deviennent meilleurs, moins chers et plus faciles à personnaliser, la pression augmente sur des entreprises modèles comme OpenAI et Anthropic pour développer des fonctionnalités qui fidélisent les clients.

Cela crée un nouvel ensemble de compromis pour les entreprises entre coût, contrôle et sécurité.

Dans une interview avec Trading Insider, Aaron Jacobson, associé chez New Enterprise Associates dont les sociétés de portefeuille comprennent Databricks, Factory et Together, a déclaré qu’il voyait ce débat au centre de la prochaine phase de l’industrie de l’IA. Il s’attend à ce que les modèles pionniers restent importants pour les problèmes les plus difficiles et les plus complexes, mais pour de nombreuses tâches quotidiennes, des modèles moins chers peuvent suffire.

Le résultat pourrait être un abandon de l’idée selon laquelle plus grand est toujours mieux – et vers un monde où les entreprises adoptent une approche plus soignée en matière de sélection de modèles.

Cette interview a été éditée et condensée pour plus de clarté.

Pouvez-vous définir la différence entre l’IA open source, open-weight et fermée ?

L’open source est l’endroit où vous pouvez réellement recréer vous-même l’intégralité du modèle. Vous disposez de toutes les données, de tous les pipelines de données, et vous pouvez les entraîner à partir de zéro et obtenir les pondérations.

La pondération ouverte est l’endroit où vous avez uniquement les pondérations, mais vous ne pouvez pas réellement créer le modèle à partir de zéro car vous ne disposez pas de toutes les données et de tous les pipelines de données. Vous ne connaissez pas réellement les données sur lesquelles le modèle a été formé ni comment il a été formé.

Avec les modèles à frontière fermée, vous n’avez accès à aucun de ces deux éléments. Vous pouvez affiner les poids via les API fournies par Anthropic et OpenAI, mais vous n’avez pas réellement accès aux poids. Vous ne pouvez pas exécuter les modèles vous-même.

Est-ce que l’ouverture ou la fermeture est vraiment un débat pour vous ? Ou les modèles pionniers sont-ils si supérieurs qu’il n’est même pas question de savoir si l’open source peut rattraper son retard ?

Je pense que les modèles frontières sont, en termes de large éventail de problèmes – et même en termes de codage – meilleurs. Mais voilà : cela ne veut pas dire qu’ils sont les plus utiles. Ils sont meilleurs, mais ils sont aussi plus chers.

Le débat pour moi, comme pour une grande partie du secteur, est le suivant : avez-vous besoin de renseignements sur les frontières pour tout ?

Le poids ouvert devient suffisamment bon pour de nombreux cas d’utilisation, et c’est là qu’il commence à remettre en question le modèle économique frontalier. Vous n’avez pas besoin de confier toutes les tâches complexes au renseignement frontalier.

Selon vous, quels sont les meilleurs cas d’utilisation des modèles frontières ?

Je pense à des problèmes très difficiles et complexes. Ou des problèmes ouverts qui sont difficiles à résoudre ou nécessitent des horizons temporels plus longs.

Nous passons réellement de l’ère des chatbots à l’ère des agents. Si vous demandez à un modèle de faire quelque chose de complexe – comme planifier des vacances entières et réserver des vols, ou, en tant que développeur, construire une application bancaire très complexe qui doit répondre à une série d’exigences de sécurité – ce genre de problème ouvert et à long terme est un excellent cas d’utilisation pour un modèle frontière. Il peut gérer la planification et certaines des générations de jetons les plus complexes, tout en acheminant des tâches plus simples, telles que des parties du code qui ne nécessitent pas autant de sophistication, vers des modèles moins coûteux.

Il semble qu’il existe également de nombreux cas d’utilisation pour les modèles à poids ouvert.

Je pense que c’est là le débat : quels sont les cas d’utilisation des modèles ouverts disponibles aux États-Unis aujourd’hui, étant donné que les modèles ouverts les plus avancés sont d’origine chinoise ?

Les développeurs individuels utilisent des modèles à poids ouvert. Certaines entreprises acceptent d’utiliser des modèles chinois à poids ouvert pour générer leur code ou effectuer d’autres travaux. De nombreuses entreprises ne le font pas et n’autorisent pas l’utilisation de modèles chinois pour générer du code ou toucher leurs données.

Pour une large part du marché – dont une grande partie concerne les charges de travail d’entreprise – les modèles ouverts les plus avancés peuvent techniquement faire un travail moins cher et peut-être assez bon. Mais comme ces modèles sont d’origine chinoise et ne sont pas véritablement open source, leur utilisation peut poser des problèmes de sécurité qui freineront leur déploiement. Ainsi, ce travail sera soit envoyé vers des modèles ouverts non chinois moins performants, soit vers des modèles à frontière fermée plus chers.

Certes, plus les données sont sensibles, plus le problème est grand. Les applications de codage, comme le code source, sont extrêmement sensibles. Tout ce qui touche aux finances ou aux données clients est sensible.

Pouvez-vous parler un peu plus spécifiquement de la pression sur les prix que les alternatives open source ou open-weight exercent sur les modèles fermés ?

Je pense que vous voyez les choses doublement. Le Financial Times a rapporté que le modèle Opus 5 d’Anthropic, à moindre coût, a dépassé Fable en termes de dépenses commerciales depuis son lancement fin juillet, selon Ramp.

Je pense aussi que c’est parce que non seulement Opus est assez bon, mais que pour un large éventail de startups et certains cas d’utilisation en entreprise, les modèles ouverts sont assez bons pour une partie de la génération de code. Et les modèles ouverts sont moins chers car vous n’avez pas à payer d’impôt sur l’entreprise modèle frontière qui les gère elle-même.

Ainsi, le coût de jetons tout aussi bons ou suffisamment bons exerce une pression sur les prix sur les modèles frontières, qui les évaluent plus cher pour récupérer le coût de la formation.

Où voyez-vous l’évolution du marché ?

Je suis plutôt optimiste quant à la capture de plus de parts de marché par le poids ouvert.

Si vous caractérisez les 10 dernières années dans l’IA, il y avait cette idée selon laquelle plus c’est gros, mieux c’est : plus de données, plus de calcul, des modèles plus gros. Je pense que la prochaine décennie sera définie par une utilisation efficace des modèles. Il n’est pas nécessaire que tout relève du renseignement frontalier.

A lire également