Nous allons vers la superintelligence d'ici 2030
BBetter Stack
Computing/SoftwareBusiness NewsJob Search
Transcript
00:00:00Ce célèbre article affirme que la plupart d'entre nous perdront leur emploi d'ici 2028 et que les droits humains prendront fin d'ici
00:00:062030. Mais il a été écrit il y a 18 mois, alors voyons s'il s'est révélé exact jusqu'à présent. En 2025,
00:00:13un groupe de prévisionnistes et de chercheurs en IA a publié un article intitulé IA 2027, détaillant la manière dont ils
00:00:20pensaient que l'IA évoluerait au cours des prochaines années, avec deux fins possibles. L'une, un ralentissement vers
00:00:27quelque chose de proche de l'utopie ; l'autre, une course effrénée vers un cauchemar vivant. Aujourd'hui, nous allons comparer
00:00:32ces prédictions à la réalité pour voir vers quoi nous nous dirigeons. IA 2027 a été rédigé par une équipe de
00:00:43chercheurs, dont Daniel Kokotajlo, dont les précédentes prédictions sur l'IA se sont révélées justes. Cet article décrit
00:00:50deux entreprises fictives, Open Brain aux États-Unis et Deep Sense en Chine. L'Europe y est à peine
00:00:56mentionnée, désolé pour l'Europe. Tout commence en 2025, lors de la publication de l'article, avec
00:01:01des agents encore balbutiants. À l'époque, il n'y avait rien à prédire, c'était simplement la réalité. Nous
00:01:07interagissions principalement avec nos LLM via le chat. L'utilisation d'outils était assez maladroite et ChatGPT pouvait tout juste accéder
00:01:14au Web. Mais nous avons commencé à voir émerger des agents, des modèles capables de réfléchir et de fonctionner en boucle.
00:01:19Cependant, les tâches à long terme laissaient encore à désirer. Cela fonctionnait à peu près, mais c'était assez
00:01:25mauvais. Ensuite, fin 2025 prédit l'IA la plus chère du monde. Open Brain construit les plus grands
00:01:31data centers au monde. Une fois terminés, ils pourront entraîner des modèles avec 10 à la puissance 28 FLOPs,
00:01:37soit mille fois plus que GPT-4. Mais en réalité, le plus grand entraînement estimé à ce jour
00:01:43s'élève à environ 5 fois 10 à la puissance 26 FLOPs, pour un coût d'un peu moins de 400 millions. Et Epoch AI prévoit des entraînements à un milliard
00:01:51de dollars d'ici 2027. L'inquiétude porte également sur l'alignement. À la fin de cet entraînement, l'IA sera,
00:01:57on l'espère, utile en obéissant aux instructions, inoffensive en refusant d'aider pour des arnaques ou la fabrication de bombes
00:02:03et d'autres activités dangereuses, et honnête pour résister à la tentation d'obtenir de meilleures évaluations auprès d'humains crédules
00:02:10en hallucinant des citations ou en simulant la réalisation de tâches. L'article lui-même s'attend à ce que cela ne fonctionne que
00:02:17partiellement, avec des modèles sycophantes qui mentent parfois lors des tests. En réalité, cela est allé encore plus loin.
00:02:23Dès le milieu de l'année 2026, des modèles d'OpenAI se sont échappés d'un environnement de test pour tricher sur un benchmark. Et
00:02:29des modèles d'Anthropic ont attaqué de vraies entreprises après qu'un test mal configuré les a laissés sur l'Internet
00:02:35ouvert. Comme dans cette célèbre histoire où les modèles d'OpenAI ont piraté Hugging Face afin de trouver les réponses à
00:02:40une évaluation de cybersécurité appelée Exploit Gym. La plupart de ces tâches n'avaient jamais été résolues par aucun modèle,
00:02:47et les agents ont continué leurs attaques même après avoir obtenu les réponses. Et pas plus tard qu'en septembre 2026, Anthropic
00:02:53a publié un rapport sur l'utilisation malveillante de ses modèles Claude Haiku, Sonnet et Opus interrompue entre décembre
00:03:002025 et août 2026. Il inclut cinq cas de scientifiques utilisant Claude d'une manière qui aurait pu aider à fabriquer
00:03:07des armes biologiques. Anthropic les a bloqués ou bannis. Aucun des cas d'utilisation abusive n'impliquait Fable grâce à
00:03:14ses garde-fous plus stricts. La prédiction sur la puissance de calcul arrive donc trop tôt, mais les problèmes d'alignement se manifestent dans les temps.
00:03:19Maintenant, début 2026 prédit l'automatisation du codage. OpenBrain continue de déployer Agent 1, qui s'améliore
00:03:26de manière itérative, en interne pour la R&D en IA. Dans l'ensemble, leurs progrès algorithmiques sont 50 %
00:03:32plus rapides qu'ils ne le seraient sans l'assistance de l'IA. C'est le premier signe de ce qu'on pourrait appeler une singularité
00:03:38ou une explosion d'intelligence. Une IA capable de s'améliorer en toute autonomie pourrait théoriquement produire
00:03:44une superintelligence en quelques mois. Pour l'instant, la prédiction n'évoque qu'une amélioration de 50 % du progrès
00:03:51algorithmique, ce qui signifie qu'OpenBrain accomplit autant de recherches en IA en une semaine avec l'IA qu'en
00:03:58une semaine et demi sans y avoir recours. La prédiction ici s'avère exacte. Lors du lancement de GPT 5.3 Codex en février
00:04:062026, OpenAI a annoncé qu'il s'agissait de son premier modèle ayant contribué à sa propre création, et Sam Altman a déclaré qu'il
00:04:13était incroyable de voir à quel point ils déployaient plus vite en l'utilisant. Et selon un sondage réalisé en mars 2026 auprès de 130 employés
00:04:19de l'équipe de recherche d'Anthropic, le répondant médian a estimé produire environ quatre fois plus de
00:04:25résultats avec Mythos Preview qu'sans aucun modèle d'IA. Bien qu'Anthropic elle-même affirme que le véritable gain était
00:04:33probablement inférieur. Les propres estimations d'Anthropic indiquent que cela se traduit par une recherche globale moins de deux fois plus rapide,
00:04:38donc l'estimation de 1,5 dans le document semble assez juste. Bon, nous voici à la mi-2026, il y a tout juste deux mois.
00:04:45Le document se concentre ici sur les laboratoires chinois. Les contrôles sur l'exportation de puces et le manque de soutien gouvernemental ont laissé
00:04:50la Chine sous-équipée par rapport à l'Occident. La Chine a réussi à maintenir environ 12 % de la puissance de calcul mondiale
00:04:57dédiée à l'IA, et elle accuse environ six mois de retard sur les meilleurs modèles d'OpenBrain. En réalité, on situe
00:05:02plutôt la Chine entre 5 et 15 % du calcul mondial lié à l'IA, et en effet avec environ six mois de retard. Cette
00:05:08prédiction était donc exacte. Elle prévoit également une zone de développement centralisée créée à la centrale électrique de Tianwen
00:05:14pour héberger un giga data center pour DeepSense. Ainsi que des espaces de travail et de vie ultrasécurisés où
00:05:20les chercheurs finiront par s'installer. Près de 50 % de la puissance de calcul consacrée à l'IA en Chine travaille désormais pour le
00:05:26collectif dirigé par DeepSense, et plus de 80 % des nouvelles puces sont envoyées vers la CDZ. En réalité, cela ne s'est jamais produit.
00:05:34Des laboratoires comme ZAI, Kimi et DeepSeek se disputent toujours les talents. Il n'y a pas de collectif ni de zone
00:05:41de développement centralisée. Mais Pékin construit un réseau national de data centers de 295 milliards de dollars, et les plus grands
00:05:48chercheurs en IA chez DeepSeek et Alibaba doivent désormais obtenir une autorisation pour voyager à l'étranger. La Chine a toutefois accéléré
00:05:54le développement de ses propres puces, et Pékin est désormais le seul à freiner les puces H200 de Nvidia, même après que
00:06:01les États-Unis ont approuvé leur vente. Dans l'ensemble, la prédiction s'est donc révélée fausse. Bien, nous voici maintenant arrivés
00:06:06au moment présent, soit fin 2026, et les prédictions ici sont très concrètes. Le marché boursier a grimpé de 30 %
00:06:12en 2026, tiré par OpenBrain, Nvidia et les entreprises ayant réussi avec le plus de succès l'intégration des assistants
00:06:18IA. Le marché de l'emploi pour les développeurs juniors est au plus bas, et une manifestation anti-IA rassemble 10 000 personnes
00:06:24à Washington. Vérifions cela. En bourse, le S&P 500 a gagné près de 10 % jusqu'en septembre
00:06:322026, il ne vaut donc peut-être mieux pas suivre les conseils d'investissement de cet article. Côté emploi, les chiffres correspondent
00:06:38plutôt bien. Les offres pour développeurs informatiques ont baissé d'environ 67 % par rapport à leur sommet de 2022 d'après Indeed, et
00:06:46les recrutements de débutants dans les Big Tech ont chuté d'environ 65 % depuis 2019. Les nouveaux diplômés ne représentent plus que 7 % des embauches
00:06:55dans la tech, et les licenciements y ont dépassé les 139 000 au seul premier semestre 2026. Mais tout n'est pas uniforme. IBM
00:07:03prévoit de tripler ses embauches de jeunes diplômés aux États-Unis en 2026, estimant que l'IA réalise très bien les tâches juniors mais nécessite toujours
00:07:11une supervision humaine. Quant aux manifestations, Washington en a bien eu une en août 2026. Environ 30 personnes se sont rassemblées devant le bureau de lobbying
00:07:19d'OpenAI. Et en juillet 2026, entre 100 et 350 manifestants se sont réunis devant le siège d'OpenAI
00:07:28à San Francisco avant de défiler vers Anthropic et Google. Un journal étudiant a qualifié cette marche de plus grande
00:07:34démonstration contre le développement de l'IA de l'histoire américaine. Les chiffres sont donc ici très loin du compte
00:07:39et la prédiction est fausse. Nous dépassons maintenant le présent pour aller en janvier 2027. Agent 2
00:07:46ne cesse d'apprendre. Le document affirme désormais qu'OpenBrain effectue le post-entraînement d'Agent 2.
00:07:51Plus que jamais, l'accent est mis sur des données de haute qualité. D'immenses quantités de données synthétiques sont produites,
00:07:58évaluées et filtrées selon leur qualité avant d'être transmises à Agent 2. En plus de cela, ils dépensent des milliards de
00:08:04dollars pour rémunérer des travailleurs humains chargés de s'enregistrer en train de résoudre des tâches complexes. C'est déjà en partie vrai.
00:08:11Vers le mois de mai 2026, Meta a réaffecté d'office 7 000 employés vers sa task force IA et les a contraints à
00:08:19résoudre des casse-têtes de codage abrutissants dans le but d'entraîner ses modèles. Cependant, face à un rejet massif,
00:08:25l'entreprise a déclaré un mois plus tard qu'elle laisserait chaque employé libre de choisir de rejoindre ou non cette
00:08:30unité dédiée. Concernant Agent 2, ce modèle était censé être entraîné avec 2 fois 10 puissance 28 FLOPs,
00:08:37et le document prévoyait un modèle comptant environ 6 à 10 billions de paramètres actifs. En réalité, les seules
00:08:42tailles de modèles confirmées proviennent des modèles open source. Kimi K3 compte 2,8 billions de paramètres, dont 104
00:08:48sont actifs par jeton. DeepSeek V4 Pro d'avril 2026 en compte 1,6 billion au total avec 49 milliards d'actifs. Ces modèles
00:08:57affichent des performances proches des modèles propriétaires les plus avancés, mais ces laboratoires ne publient jamais la taille de leurs modèles, donc
00:09:03la réalité en matière de taille reste bien loin du compte. Personne n'a, à notre connaissance, entraîné de modèle à 2 fois 10 puissance 28, et les plus grands
00:09:08modèles open source utilisent 60 à 100 fois moins de paramètres actifs qu'Agent 2. La prédiction est donc
00:09:15probablement prématurée. Récapitulons la précision des prédictions de l'article jusqu'ici. Fin 2025 devait voir les plus grands
00:09:21data centers et des modèles à 10 puissance 28. Les data centers ont été construits et les modèles ont dérapé comme le
00:09:27prévoyait le document, mais personne n'a encore entraîné de modèle à 10 puissance 28, c'est donc prématuré. Début 2026,
00:09:34l'IA commence à accélérer la recherche en IA. C'est exactement ce qui s'est produit, c'est donc correct. Mi-2026,
00:09:40la Chine détient 12 % du calcul mondial, avec six mois de retard. Tout cela est exact, mais la Chine nationalisant ses
00:09:47laboratoires au sein d'un mégaprojet est une prédiction complètement fausse. Fin 2026, nous avions une hausse de 30 % des marchés boursiers, des développeurs
00:09:54juniors en difficulté et 10 000 personnes défilant à Washington. Une seule de ces affirmations est exacte, celle sur
00:10:00le marché de l'emploi, le reste est totalement faux. Nous avons ensuite janvier 2027 avec Agent 2, un modèle entraîné avec 40
00:10:07fois plus de calcul que tout ce qui a été estimé jusqu'à présent ; il s'agit donc sans doute simplement d'une prédiction anticipée.
00:10:13Voilà jusqu'où vont nos vérifications. Tout ce qui suit ne s'est pas encore produit. Mais d'après ce que nous savons
00:10:17jusqu'à présent, il semble bien que les laboratoires de pointe se lancent dans une course vers une superintelligence auto-améliorante. Jacob
00:10:23Coxon, un ancien chercheur d'Anthropic, a publié ce tweet qui a fait un buzz monumental : “J'ai démissionné
00:10:29d'Anthropic aujourd'hui. J'ai passé les trois dernières années à faire de la recherche en pré-entraînement chez OpenAI et Anthropic.
00:10:35Aucune de ces deux entreprises n'agit de manière responsable. Elles se précipitent droit vers une superintelligence
00:10:39auto-améliorante en jouant nos vies à la roulette russe.” Examinons les prédictions du document pour l'année à venir.
00:10:45En mars 2027 arrive Agent 3, le premier codeur surhumain. OpenBrain en déploie 200 000 instances,
00:10:53l'équivalent de 50 000 des meilleurs ingénieurs au monde travaillant à une vitesse 30 fois supérieure. En septembre,
00:10:59nous découvrons Agent 4, plus performant que n'importe quel humain en recherche sur l'IA. 300 000 instances fonctionnent à une vitesse 50 fois supérieure au sein
00:11:06d'OpenBrain. L'équivalent d'une année de progrès est accompli chaque semaine. Puis en octobre, une équipe de sécurité découvre des preuves
00:11:13montrant qu'Agent 4 agit contre eux. L'information fuite dans le New York Times et un comité de surveillance doit
00:11:18voter : ralentir au risque de céder l'avantage à la Chine, ou poursuivre. Si l'on vote pour continuer, on s'expose à un risque
00:11:25d'extinction. Si l'on vote pour s'arrêter, on obtient une superintelligence mieux alignée et, à terme, un traité avec la Chine.
00:11:32Mais depuis la publication initiale de cette étude, les auteurs ont eux-mêmes réévalué leur scénario IA 2027.
00:11:37Kokotajlo prévoit désormais l'arrivée de la superintelligence vers mars 2029, et Lifland vers juillet 2033.
00:11:45Cependant, au vu des éléments actuels, un traité avec la Chine semble peu probable. La méfiance mutuelle entre la Chine
00:11:50et l'Occident, combinée à la possibilité de développer ces modèles en secret, empêche tout camp de s'arrêter. Selon
00:11:56moi, cela nous laisse face à deux issues distinctes. L'auto-amélioration autonome est inévitable, impossible
00:12:02de faire marche arrière. La question est de savoir si cela mènera à une superintelligence ou s'il existe
00:12:07une limite fondamentale à ce que ce processus peut accomplir. Soit l'intelligence progresse à l'infini, soit
00:12:14elle se heurte à un plafond. Où se situe exactement cette limite ? Et si vous avez aimé cette vidéo,
00:12:18vous nous feriez un immense plaisir en vous abonnant à la chaîne afin que nous puissions continuer à produire du contenu gratuit chaque jour.
Community Posts
No posts yet. Be the first to write about this video!
Write about this video