Un cadre pour l'IA de pointe et l'aube d'une ère nouvelle

C'est un moment charnière dans l'histoire humaine. L'intelligence générale artificielle (AGI), un système qui exhibe toutes les capacités cognitives du cerveau, n'est probablement qu'à quelques années de nous. Quand nous regarderons en arrière dans les décennies à venir, je pense que nous réaliserons que nous étions au pied de la singularité – rien de moins que l'aube d'un nouvel âge pour l'humanité.

J'ai passé toute ma vie à travailler sur l'AGI car j'ai toujours eu la profonde conviction que, si elle est construite et déployée de manière responsable, elle se révélera être l'une des technologies les plus bénéfiques et transformatrices jamais inventées. L'AGI ne peut être comparée aux percées technologiques standard, même à celles aussi conséquentes qu'Internet ou le mobile – elle est bien plus comparable à la découverte de l'électricité ou du feu. Si vous vous arrêtez pour y réfléchir, nous avons essentiellement trouvé un moyen de faire penser le sable. C'est miraculeux.

L'ampleur de l'impact de cette technologie sera sans précédent, peut-être 10 fois celle de la Révolution industrielle à 10 fois la vitesse. Elle nous aidera à résoudre certains des plus grands problèmes auxquels la société est confrontée, de l'accélération de la découverte de médicaments au développement de nouvelles sources d'énergie propre, en passant par la création de nouveaux matériaux avancés. Nous pourrions même atteindre un point où les ressources ne seront plus le facteur limitant du progrès humain, menant à une nouvelle ère d'abondance incroyable.

Les défis de la frontière

L'IA commence déjà à apporter des bénéfices concrets, mais pour réaliser son immense promesse, nous devons naviguer cette période critique de développement de manière réfléchie et prudente. Des actions urgentes sont nécessaires pour faire face aux risques qui pourraient surgir à mesure que nous nous rapprochons de l'AGI. Nous avons déjà vu les défis que les modèles frontières posent pour la cybersécurité, et d'autres menaces, y compris les risques nucléaires et biologiques, pourraient bientôt émerger à mesure que les capacités continuent de progresser. À l'horizon, nous aurons besoin de garde-fous robustes pour maintenir le contrôle de systèmes de plus en plus agentiques et se perfectionnant de manière récursive – et pour résoudre les problèmes inconnus qui ne deviendront plus clairs qu'avec le temps.

J'ai toujours cru en la puissance de l'ingéniosité et de la créativité humaines pour résoudre tout problème. Je suis convaincu que l'atténuation des risques techniques liés à l'IA est un défi que nous pouvons collectivement relever, mais seulement si nous nous donnons le temps et l'espace nécessaires pour bien faire cette prochaine étape cruciale. Actuellement, en tant que domaine et en tant que société élargie, nous ne le faisons pas.

En ce moment, nous sommes enfermés dans une course commerciale et géopolitique extrêmement intense et à plusieurs niveaux. Bien que ces dynamiques concurrentielles alimentent des progrès rapides et accélèrent les avantages incroyables, les avancées à la frontière dépassent notre compréhension de la technologie. Personne au monde ne sait avec certitude ce qui va se passer à partir de là, et même les experts sont en désaccord. Lorsqu'il y a un grand degré d'incertitude et que les enjeux sont aussi élevés, procéder avec un optimisme prudent est la stratégie sensée et correcte. Cela appelle à des politiques publiques qui promeuvent l'innovation tout en encourageant la responsabilité et la sécurité, favorisent la collaboration internationale sur les questions clés de sécurité, et encouragent une réflexion approfondie sur la manière dont l'IA est déployée pour le bénéfice de la société.

Un cadre pour un organisme de normes pour l'IA frontière

Les progrès rapides que nous observons dans l'IA nécessitent une nouvelle approche pour tester les capacités des modèles d'IA frontière, qui soit dynamique, adaptable et rigoureuse. Les États-Unis sont bien positionnés, compte tenu de leur statut économique et technique, pour franchir la première étape dans le développement d'un tel cadre. Ils pourraient établir un nouvel organisme de normes modelé sur un partenariat public-privé supervisé par le gouvernement fédéral ou une organisation d'autorégulation, un peu comme la Financial Industry Regulatory Authority (FINRA), avec un conseil d'administration comprenant des experts techniques indépendants de premier plan et des représentants de l'open source. Le financement devrait être substantiel et provenir probablement en grande partie de l'industrie, afin d'attirer des talents techniques de classe mondiale et de fournir les ressources de calcul nécessaires pour des tests à grande échelle.

L'organisme de normes serait responsable de l'élaboration de protocoles d'évaluation et de la collaboration avec les agences fédérales compétentes et les laboratoires nationaux américains pour mener des tests dans les domaines pertinents pour la sécurité nationale. Un modèle serait qualifié de « classe frontière » s'il atteint certains seuils sur un ensemble de critères de référence déterminés par l'organisme de normes et régulièrement mis à jour pour suivre l'évolution des capacités de l'IA. Les organisations possédant des « modèles frontières » selon ces critères seraient considérées comme des « laboratoires frontières » et seraient encouragées à adopter des meilleures pratiques, telles que la publication de fiches techniques avec des détails techniques, le maintien d'une cybersécurité interne solide, la vérification des antécédents du personnel clé, et la fourniture de ressources suffisantes pour la recherche en sécurité et en sûreté, et plus encore.

Dans un premier temps, les laboratoires frontières partageraient volontairement leurs modèles avec l'organisme de normes pour un examen jusqu'à 30 jours avant leur publication. Une fois que le protocole d'évaluation se sera avéré efficace et robuste, une formalisation pourrait rapidement suivre, ce qui signifierait que les modèles frontières devraient le réussir pour être déployés sur le marché américain. Les laboratoires travailleraient également avec l'organisme de normes pour remédier à toute vulnérabilité critique après la publication.

Les évaluations des modèles devraient inclure des évaluations scientifiques rigoureuses des capacités en cybersécurité, des menaces biologiques et d'autres domaines à haut risque. Des tests spécifiques pour l'IA agentique pourraient chercher des tentatives de contournement des garde-fous de sécurité ou des signes de tromperie, et garantir les meilleures pratiques, comme le filigrane numérique des images générées par l'IA et la génération de jetons de sortie lisibles par l'homme pour comprendre le raisonnement du modèle.

Ces évaluations seraient régulièrement mises à jour, peut-être trimestriellement au début, les critères de référence obsolètes ou saturés étant dépréciés et remplacés. Dans un premier temps, elles seraient élaborées en consultation avec les laboratoires frontières, mais finalement l'organisme de normes devrait développer la capacité technique de créer ses propres tests indépendants des laboratoires pour éviter le surajustement. En collaboration avec le gouvernement américain, il pourrait promouvoir un écosystème d'auditeurs tiers pour aider aux évaluations et au développement de nouveaux critères de référence et évaluations.

La force de cette approche est qu'elle serait techniquement ciblée, tout en soutenant l'innovation et en incitant à un comportement responsable. Elle est conçue pour suivre l'accélération du domaine et s'adapter aux plus grands risques à mesure qu'ils sont identifiés, et pourrait être renforcée si la gravité de la situation l'exige, y compris en coordonnant un ralentissement du développement parmi les laboratoires frontières si cela est jugé nécessaire. Être désigné comme laboratoire frontière apporterait un prestige significatif et serait ouvert à toute organisation construisant des modèles répondant aux critères de référence. Le cadre pourrait s'appliquer aux modèles de classe frontière, quel que soit leur pays d'origine ou qu'ils soient ouverts ou fermés, mais tout modèle non frontière, par exemple ceux des startups ou du monde académique, serait exempté de ce processus.

Cet effort initié par les États-Unis fournirait un point de départ solide pour créer des normes internationales partagées sur l'IA frontière. Puisque cette technologie va affecter la planète entière, idéalement ce cadre inciterait la communauté internationale à parvenir à un consensus sur la manière de gérer les risques les plus graves tout en garantissant que chacun ait accès aux opportunités qu'apporte l'IA et puisse en bénéficier.

L'avenir n'est pas encore écrit

L'AGI a le potentiel d'être l'outil ultime pour faire progresser la science et la médecine, et de générer d'énormes gains de productivité et de croissance économique. Mais pour y parvenir, nous devons bien poser les fondations techniques en nous coordonnant autour d'un cadre global partagé, en utilisant les méthodes scientifiques les plus rigoureuses, et en réunissant les meilleurs esprits pour travailler sur les défis auxquels nous sommes confrontés.

Même si nous résolvons ces défis techniques difficiles, il y aura d'autres questions économiques et philosophiques complexes à aborder : quels nouveaux modèles économiques seront nécessaires pour aider tout le monde à prospérer dans un monde d'après la rareté ? Quelles valeurs voulons-nous adopter, quel sera le sens et le but, et comment la condition humaine elle-même pourrait-elle changer ? Résoudre ces questions ne peut et ne doit évidemment pas être laissé aux seuls technologues. Cela nécessite que toutes les parties de la société se réunissent pour aider à définir ce nouveau chapitre.

Il y a à la fois une immense excitation et une incertitude autour de l'IA, et les deux sont justifiées. Mais l'avenir n'est pas encore écrit, nous devons utiliser cette fenêtre précieuse avant l'arrivée de l'AGI pour façonner cette technologie au bénéfice de toute l'humanité. Ce que nous faisons collectivement maintenant déterminera comment la prochaine phase de la civilisation se déroulera. En gérant en toute sécurité l'introduction de l'AGI dans le monde, nous pouvons entrer dans un nouvel âge d'or de la découverte scientifique et du progrès, et inaugurer un avenir radieux d'épanouissement humain incroyable.