Stripe est désormais une entreprise de sécurité : pourquoi Alex Atallah d’OpenRouter affirme que la fraude aux jetons est sur le point d’atteindre des proportions catastrophiques ? — BigGo Finance

Stripe est désormais une entreprise de sécurité : pourquoi Alex Atallah d’OpenRouter affirme que la fraude aux jetons est sur le point d’atteindre des proportions catastrophiques ?
<a href="https://www.Google.Ajouter une source préférée2
L'enjeu majeur de l'infrastructure d'IA ne réside pas dans la performance des différents modèles, mais dans la capacité à contrôler les flux financiers au sein du système. Selon Alex Atallah, cofondateur d'OpenRouter, et Anjney Midha, associé chez Menlo Ventures et investisseur de la première heure, lors de leur intervention dans le podcast Latent Space, l'acquisition d'OpenRouter par Stripe est avant tout une stratégie de sécurité, et non une simple intégration de paiements. Leur argument : les tokens sont devenus une nouvelle unité de valeur circulant sur Internet, créant un potentiel de fraude sans précédent depuis l'ère des paiements en ligne. OpenRouter traite actuellement environ 10 000 milliards de tokens par jour et enregistre une croissance hebdomadaire d'environ 91 000 milliards de tokens. Cependant, le volume de fraude bloqué le mois dernier a été dix fois supérieur à celui du mois précédent. Midha prévoit que l'économie des jetons atteindra environ 1 400 milliards de dollars d'ici cinq ans et 1 400 milliards de dollars de flux de jetons d'ici dix ans. L'entreprise met en garde contre le risque de fraude, notamment à mesure que les agents d'IA prennent le relais des acteurs malveillants humains à grande échelle. La logique stratégique de Stripe repose sur le fait que son principal atout a toujours été la détection des fraudes, et non la transmission des paiements. Ce partenariat représente donc un investissement judicieux dans l'infrastructure de confiance et de sécurité de l'écosystème de l'IA. Ce rapport analyse comment la distribution est devenue une ressource rare dans cette économie, pourquoi OpenRouter et Anthropic ont privilégié la distribution au détriment du développement de nouvelles fonctionnalités, et si une seule entreprise peut construire l'infrastructure de surveillance nécessaire à l'économie des jetons avant que la fraude ne détruise la confiance dans le système.

Éléments clés

La nuit où David Holz a mis fin à la période d'essai gratuite de Midjourney, il a appelé Anjney Midha à trois reprises avant l'aube. Quelqu'un en Chine géolocalisait les adresses IP et revendait l'accès à l'offre promotionnelle : dix générations de dix images, le procédé d'activation qui transformait les nouveaux utilisateurs en clients payants. Midha, alors responsable de la plateforme et de la sécurité chez Discord, a répondu à l'appel. Midjourney générait moins de 14 300 millions de dollars de chiffre d'affaires annuel. La fraude avait déjà eu lieu.

Ce moment, relaté par Midha dans le podcast Latent Space, constitue le pilier central de son argumentation expliquant pourquoi l'acquisition d'OpenRouter par Stripe est plus importante qu'on ne le croit. Les paiements en ligne, apparus dans les années 1980 et 1990, ont dépassé le cap du billion de dollars au cours de la décennie suivante et ont nécessité des solutions antifraude entièrement nouvelles. Les tokens, explique-t-il, en sont aujourd'hui à peu près au même stade, mais leur développement est plus rapide.

“ Un nouveau type d'unité de valeur circule sur Internet : le token ”, a déclaré Midha. “ Au cours des dix prochaines années, l'ensemble de la chaîne de valeur d'Internet devra composer avec le fait que plus les tokens prendront de la valeur, plus les personnes mal intentionnées tenteront de s'en emparer. ”

La réalité quotidienne des 10 000 milliards de jetons

OpenRouter, la plateforme de routage de modèles rachetée par Stripe, traite désormais près de 10 000 milliards de jetons par jour et connaît une croissance hebdomadaire d'environ 91 000 milliards de dollars, selon son cofondateur Alex Atallah. Ce volume considérable a fait de l'entreprise un aimant malgré elle pour toutes les formes de fraude imaginables dans l'économie des jetons : cartes de crédit volées, trafic revendu en violation des conditions d'utilisation, comptes piratés, entreprises entières compromises à leur insu et agents d'IA incontrôlables provoquant des erreurs de facturation.

Le nombre de transactions frauduleuses augmente plus vite que le volume légitime. “ Nous avons bloqué dix fois plus de transactions en dollars le mois dernier que le mois précédent ”, a déclaré Atallah, “ et les types de fraudes aux jetons se diversifient considérablement. ”

OpenRouter a développé des modèles internes pour catégoriser chaque type de fraude et a collaboré étroitement avec Stripe sur la détection. Cette réalité opérationnelle constitue le cœur stratégique de l'acquisition et redéfinit la véritable nature de Stripe en tant qu'entreprise.

“ Stripe est aujourd'hui avant tout une entreprise de sécurité ”, a déclaré Midha. “ On la perçoit souvent comme une société de paiement, mais si Stripe reste leader du marché, c'est grâce à son système de détection des fraudes exceptionnel, fruit d'années d'expérience. ”

Ce partenariat ne se limite donc pas à une simple intégration de paiements pour les applications d'IA. Il s'agit d'une plateforme de confiance et de sécurité pour l'ensemble de l'économie des jetons, combinant la visibilité d'OpenRouter sur les flux de jetons de tous les principaux fournisseurs de modèles avec l'infrastructure de détection des fraudes de Stripe.

Le problème de la distribution : aucun laboratoire n'a résolu le problème.

La conviction de Midha quant à la valeur d'OpenRouter est née de son observation des difficultés rencontrées par tous les laboratoires de pointe. Investisseur précoce chez Anthropic et, auparavant, chercheur en apprentissage automatique durant ses études supérieures, il a constaté un schéma identique chez OpenAI, Anthropic, Mistral, Black Forest Labs et Luma : les équipes de recherche raisonnent en termes de capacités, et non d'expérience des développeurs.

Il a cité l'exemple du point de contrôle Claude, entraîné une année entière avant sa publication, et le fait que l'article de blog de Claude 1 n'ait été publié qu'avec trois exemples pour développeurs : un bot Discord, la startup de sa femme, Juni Learning, et Notion. Ces trois projets étaient des “ amis de l'équipe Anthropic ”, a-t-il précisé, car la planification de la distribution post-formation a été effectuée à la dernière minute.

“ Vous n’imaginez pas la valeur stratégique qu’OpenRouter a créée en étant capable d’orchestrer ne serait-ce que trois API en production ”, a déclaré Midha.

Le contraste dans les réalités de la distribution est saisissant :

Compagnie / Couche	Réalité de la distribution	Point de contraste
Anthropique (précoce)	Plus de 12 mois avant le premier chiffre d'affaires de $10M	Aucune plateforme de distribution n'existait.
Mistral (premier point de contrôle)	Distribué sous forme de liens magnétiques torrent, sans API	Les chercheurs supposaient que les développeurs se serviraient eux-mêmes
Laboratoires de la Forêt-Noire	OpenRouter pourrait router environ 1 million de développeurs dès le premier jour.	Changement brusque en heures
OpenRouter aujourd'hui	Plus de 10 millions de développeurs, environ 10 000 milliards de jetons par jour	Croissance hebdomadaire du token 9%

Midha a balayé d'un revers de main les critiques selon lesquelles OpenRouter ne serait qu'une simple surcouche, les qualifiant d'erreur de catégorie. “ On entend beaucoup de discours sur les surcouches… Si une application n'est qu'une surcouche à un modèle, alors OpenRouter n'est qu'une surcouche à d'autres API, et c'est le framework le plus réducteur qui soit. C'est clairement l'œuvre de quelqu'un qui n'a aucune expérience du déploiement. ”

Pourquoi la franchise est restée concentrée

La thèse centrale d'Atallah expliquant le succès d'OpenRouter repose sur une discipline qui peut sembler presque désuète dans le contexte actuel de l'engouement pour l'IA : la concentration. OpenRouter a refusé de développer des services de réglage fin, des couches de mémoire, des compétences et des environnements de test isolés. Un prototype de produit de réglage fin avait même été créé : un outil destiné aux consommateurs qui extrairait les transcriptions de vidéos YouTube et affinerait un modèle pour qu'il parle comme la personne dans les vidéos. Ce projet a été abandonné car les développeurs ont besoin de contrôler leurs propres abstractions de mémoire, ce qui n'est pas le domaine d'expertise d'OpenRouter.

“ Je pense toujours que, même à l'ère de l'IA, la concentration est sous-estimée et pourtant essentielle ”, a déclaré Atallah, “ non seulement parce qu'en concentrant l'attention de vos équipes humaines sur un objectif, vous obtenez un meilleur produit, mais aussi parce que le monde sait sur quoi vous vous concentrez. ”

Midha a établi un parallèle avec les origines d'Anthropic : la devise initiale était “ programmation en binôme pour l'IA, commercialisée de manière responsable ”, et l'évaluation du code a constitué le principal axe d'évaluation de l'entreprise dès le premier jour, à l'exclusion des modèles d'image et de vidéo qui avaient pourtant le vent en poupe à l'époque. Il y a eu des détours – un chatbot généraliste au moment du succès de ChatGPT – mais l'objectif principal est resté le même.

La même rigueur s'appliquait à l'abandon de certains produits. Début 2024, OpenRouter a prototypé “ MoM ” (mélange de modèles), permettant aux utilisateurs de sélectionner plusieurs modèles, de fusionner les résultats en utilisant le plus performant d'entre eux et d'afficher les résultats intermédiaires sur un tableau de type Kanban. Ce projet a été abandonné car le résultat de la fusion était parfois moins bon que le meilleur modèle composant : ce dernier était tout simplement trop supérieur aux options deux et trois.

Le tsunami de fraudes à venir

L'argument secondaire que Midha juge sous-estimé est celui qui devrait inciter tout acheteur de solutions de sécurité d'entreprise à la prudence. Les comportements malveillants actuellement perpétrés par les humains dans l'économie des jetons seront perpétués par des agents d'IA au cours de la prochaine décennie, selon une approche qu'il qualifie de “ récursive ”.”

“ Tous les méfaits qu’Alex a décrits comme étant perpétrés par les humains actuellement le seront également par des agents d’IA au cours des dix prochaines années ”, a déclaré Midha. “ Imaginez l’ampleur sans précédent des actes malveillants auxquels nous allons assister. ”

Les laboratoires ne peuvent pas résoudre ce problème seuls, a-t-il affirmé, car leurs seules données concernent les dysfonctionnements de leurs propres agents – une infime partie des comportements malveillants à l'échelle de l'écosystème. Il faut un système de défense capable de superviser les laboratoires de modélisation, les déploiements post-entraînement et les développeurs, et de créer un bouclier pour l'ensemble de l'économie des jetons.

Les enjeux projetés rendent l'urgence concrète. Midha prévoit que l'économie des jetons atteindra environ 14 000 milliards de dollars d'ici cinq ans et 10 000 milliards de dollars de flux de jetons d'ici dix ans. Sans une nouvelle infrastructure de défense inter-écosystèmes, a-t-il averti, un pourcentage important de ces flux pourrait être frauduleux – et l'économie pourrait ne jamais atteindre cette échelle si les gens cessent de faire confiance aux jetons.

L'évolution du modèle économique à venir

La prédiction connexe d'Atallah concerne un changement structurel dans la manière dont les entreprises d'IA génèrent des revenus. Les entreprises vendant des systèmes d'inférence généralisés étant des cibles privilégiées pour la fraude, le marché évoluera, délaissant la revente de systèmes d'inférence enrichis au profit de tâches et d'améliorations spécifiques, les clients apportant leurs propres systèmes d'inférence.

Il a cité la page de tarification de Datadog comme modèle pour l'avenir : des entreprises d'infrastructure facturant différents types d'événements, avec des modèles de tarification continus, et des abonnements plus simples à mesure que l'on évolue vers des applications grand public.

Le modèle de croissance qu'il a décrit est un cycle répétitif : un laboratoire de pointe lance une innovation, l'utilisation explose, les utilisateurs découvrent leur facture 30 jours plus tard et se détournent de la technologie, et des modèles plus accessibles proposent des équivalents économiques deux à trois mois plus tard. Claude Sonnet 3.5, sorti mi-2024, a constitué le saut technologique qui a bouleversé la dynamique des applications et déclenché la première véritable prise de conscience des coûts.

Que signifie réellement la combinaison de rayures ?

Atallah a été transparent quant au court terme : la marque, le produit, la feuille de route et le nom d’OpenRouter restent inchangés. L’acquisition accélère la commercialisation et la montée en gamme, avec une vision claire de la confiance et de la sécurité partagées, et facilite l’acceptation des tokens et l’intégration de votre propre inférence.

“ La plupart des choses se dérouleront comme si nous avions été indépendants, sauf que tout ira plus vite ”, a-t-il déclaré.

Midha a conclu en appelant à la création de “ nouveaux shérifs ” pour encadrer l'économie des jetons – une formulation qui explicite la logique stratégique de l'accord avec Stripe. La question est de savoir si une seule entreprise peut mettre en place un système de défense contre la fraude à l'échelle de l'écosystème sans devenir un point de blocage.

Il est important de suivre de près les tensions persistantes. Il convient de vérifier si le changement de tarification “ tâches discrètes, apportez votre propre inférence ” se concrétisera et quelles seront ses conséquences sur les marges des revendeurs d'inférence. Le consensus multi-modèles de type Fusion deviendra-t-il une catégorie de produits durable ou restera-t-il une simple fonctionnalité ? Comment la marque et la feuille de route d'OpenRouter survivront-elles à l'intégration dans Stripe ? Enfin, un seul acteur peut-il créer une couche de confiance et de sécurité pour l'économie des jetons sans reproduire la concentration que la couche de routage de modèles était censée bouleverser ?.

Les implications pour le marché sont considérables. Si les projections de Midha, qui tablent sur 1 400 milliards de dollars (entre 1 400 milliards et 1 400 milliards de dollars), se confirment, l’infrastructure de sécurité entourant les flux de jetons deviendra un marché potentiel plus vaste que le secteur de l’inférence lui-même. Si les flux de jetons se bloquent parce que les utilisateurs cessent de faire confiance au système, la justification de la protection contre la fraude s’affaiblit proportionnellement, tout comme l’ensemble du modèle économique de l’IA générative. La course à la mise en place d’un système immunitaire pour l’économie des jetons est désormais l’enjeu infrastructurel le plus crucial dans le domaine de l’IA.

Contenu intégral disponible sur : Pourquoi miser sur un seul modèle gagnant était une erreur — Alex Atallah d'OpenRouter et Anjney Midha d'AMP

Références :

• OpenAI prévoit de dépenser $278 milliards de dollars sur cinq ans et vise un chiffre d'affaires de $350 milliards de dollars d'ici 2030.
• Google, OpenAI et Anthropic s'associent pour lancer SAFA, un organisme de normalisation de la sécurité de l'IA.
• L'introduction en bourse d'Anthropic reportée à novembre, la guerre des prix et les craintes liées à la sécurité assombrissant ses ambitions de 1 400 milliards de dollars.
• Le PDG de Palo Alto Networks qualifie de ‘ irréaliste ’ la volonté de ralentir le développement de l'IA et perçoit une tentative d'esquive de responsabilité derrière les arguments de l'industrie.
• Bill Gates avertit que l'IA pourrait tuer un milliard de personnes et exhorte le Congrès américain à légiférer en la matière.

Ajouter la source préférée

Une fois ajouté, BigGo Finance apparaît en premier dans les actualités principales de Google, vous permettant ainsi d'accéder en priorité aux informations financières mondiales les plus complètes, les plus récentes et les plus pertinentes.

Source: finance.biggo.com