Pinecone 2.0 — Edo Liberty, Pinecone

AAI Engineer
컴퓨터/소프트웨어AI/미래기술

스크립트

00:00:00interface. Je veux... il y a énormément de super idées qui font fonctionner tout ça, mais je
00:00:06veux vous parler un peu de l'une d'entre elles. D'accord. Ce que vous voyez,
00:00:11c'est l'interface de Nexus. En haut, vous voyez une question posée par l'agent
00:00:17et, sur la gauche, les différentes étapes par lesquelles il est passé.
00:00:23Ce que vous voyez en bas à droite est probablement le plus intéressant :
00:00:28du code généré. Ce que fait Nexus est très
00:00:34différent des autres systèmes. C'est ce qu'on appelle un agent de codage à l'exécution. Contrairement
00:00:40aux autres systèmes de codage dont vous avez l'habitude, où la tâche consiste à prendre une grande base
00:00:49de code et à m'aider à la modifier, mais une fois les modifications terminées, ce que j'ai,
00:00:55c'est un logiciel déployé qui constitue l'artefact final. Ce qui s'exécute
00:01:00ne contient plus le modèle, c'est juste du code. Ce n'est pas ce qui
00:01:05se passe ici. Lors de la requête, il faut imaginer que le moteur construit
00:01:10essentiellement quelque chose comme un notebook Jupyter ou un dépôt Python.
00:01:16Ils écrivent littéralement du code, l'exécutent, réécrivent du code, l'exécutent, et s'ils
00:01:20obtiennent la réponse, ils savent quoi en faire. Si ce n'est pas ce
00:01:24à quoi ils s'attendaient, ils réécrivent cette partie du code. Au final, on obtient un
00:01:30morceau de code qui accomplit la tâche et extrait les informations souhaitées.
00:01:36C'est enregistrable et réexécutable, mais c'est aussi incroyablement flexible
00:01:42car la réponse n'est pas obtenue par une simple requête à une base de données, mais
00:01:50écrite par du code, ce qui est extrêmement flexible. D'ailleurs, ce code...
00:01:57Chose intéressante, si vous écrivez des logiciels de cette façon, la quantité
00:02:05de prompts nécessaire est considérablement réduite. Nous sommes passés
00:02:08d'environ 150 000 tokens pour donner à nos agents tous les outils
00:02:12nécessaires à moins de 1 000 tokens pour spécifier toutes les
00:02:16interfaces utiles pour extraire l'information de Nexus. Voici donc
00:02:23à quoi ressemble l'exécution. À gauche, vous voyez
00:02:29Nexus avec noQL répondre à la question, et à droite, la même tâche
00:02:38confiée à un agent disposant de tous les outils pour la réaliser. Mais n'oubliez pas que
00:02:43celui de droite est fortement désavantagé. C'est comme un employé lors de son tout premier jour
00:02:48de travail : il doit lire plein de choses, trouver où se trouvent les données,
00:02:51comprendre la tâche, écrire beaucoup de code... C'est vraiment
00:02:55un gros handicap. Je ne sais pas si... bon, ça s'est arrêté, mais
00:03:02inutile de dire que c'est de loin plus lent, bien plus coûteux en termes de
00:03:08consommation de tokens, mais aussi, de manière très intéressante, beaucoup moins
00:03:12précis, car il n'a pas le bon contexte ni les bons objectifs dans
00:03:17votre entreprise. Nous travaillons évidemment déjà avec pas mal de
00:03:25clients bêta. Vous voyez quelques résultats ici, mais je vais aller vite
00:03:30pour dire que, dans tous les domaines, dans toutes les
00:03:35entreprises et pour tout type de tâches, on constate systématiquement la même
00:03:40chose : passer à ce paradigme permet des réductions de coûts majeures. Une baisse
00:03:50de 77 à 90 % de la consommation de tokens est très courante. C'est aussi bien
00:03:58plus rapide, allant de 20-30 % à parfois 77 % plus rapide.
00:04:07Et le plus important, c'est que ça devient en même temps nettement plus
00:04:11précis. C'est donc une réussite totale. Je conclurai en disant que
00:04:20Nexus sort de la phase d'accès anticipé pour passer en aperçu public dès demain, alors testez-le !
00:04:50Merci.

핵심 요약

L'agent Nexus remplace les requêtes traditionnelles en générant et exécutant directement du code Python à la volée, ce qui réduit la consommation de tokens de 77 % à 90 % tout en augmentant la vitesse et la précision.

하이라이트

  • L'agent de codage à l'exécution Nexus écrit, exécute et réécrit du code en boucle lors de la requête pour extraire l'information.

  • L'approche par génération de code dynamique réduit le volume de prompts de 150 000 tokens à moins de 1 000 tokens.

  • Le passage au paradigme Nexus diminue la consommation de tokens de 77 % à 90 %.

  • L'exécution du code dynamique accélère les traitements de 20 % à 77 % par rapport aux agents équipés d'outils classiques.

  • Nexus passe de la phase d'accès anticipé à un aperçu public.

타임라인

Le fonctionnement du codage à l'exécution

  • Nexus génère un environnement de type notebook Jupyter ou dépôt Python au moment de la requête.
  • L'agent vérifie le résultat du code exécuté et réécrit les sections incorrectes jusqu'à obtenir la réponse visée.
  • La définition des interfaces via ce code réduit les besoins en prompts de 150 000 à moins de 1 000 tokens.

Contrairement aux outils de codage classiques qui modifient une base de code pour déployer un logiciel fixe, Nexus crée du code temporaire pour traiter l'information. L'agent évalue en continu les résultats de son exécution pour corriger ses propres erreurs. Ce processus rend l'extraction de données très flexible tout en optimisant la taille du contexte nécessaire.

Comparaison entre Nexus et les agents autonomes standard

  • Les agents dotés de tous les outils souffrent d'un handicap de contexte similaire à un nouvel employé.
  • L'utilisation d'outils classiques ralentit le traitement et génère des coûts élevés en tokens.
  • Le manque de contexte d'entreprise direct dégrade la précision des agents d'exécution habituels.

Un agent d'exécution classique doit parcourir la documentation, identifier l'emplacement des données et écrire du code massif dès sa première tentative. Cette méthode consomme une quantité excessive de ressources et manque souvent de précision. L'architecture de Nexus contourne ce problème grâce à son interface de requêtes simplifiée.

Gains de performance et passage en aperçu public

  • Les tests bêta montrent une baisse systématique de 77 % à 90 % de la consommation de tokens.
  • La vitesse d'exécution augmente de 20 % à 77 % selon les tâches et les entreprises.
  • Nexus devient accessible à tous en aperçu public.

Les déploiements chez les clients bêta confirment des gains sur l'ensemble des métriques clés. Outre l'économie de tokens et le gain de temps, la précision des réponses augmente de manière significative. Ces résultats valident la sortie du programme d'accès restreint.

커뮤니티 글

아직 글이 없습니다. 이 영상에 대한 첫 번째 글을 작성해 보세요!

이 영상에 대해 글쓰기