Le cerveau de votre entreprise va fuiter des secrets : comment nous avons évité cela pour les grandes banques — Tanmai Gopal, PromptQL
AAI Engineer
컴퓨터/소프트웨어경영/리더십
스크립트
00:00:00Très bien, tout le monde voit bien.
00:00:15Salut à tous.
00:00:17Merci d'être là.
00:00:18Je vais vous parler du fait que si vous décidez
00:00:23de construire un cerveau d'entreprise, il y a de grandes chances
00:00:25que cela fuite des secrets d'entreprise, ce qui est un peu la grande peur
00:00:28qu'on a de toute façon à l'idée de bâtir un cerveau d'entreprise,
00:00:32à savoir le scénario du stagiaire qui rejoint l'entreprise
00:00:34et qui obtient soudainement les détails des salaires
00:00:36et ce genre de situation.
00:00:37Vous voulez vous en prémunir.
00:00:40Ça a été, je crois, à peu près le plus grand obstacle
00:00:43qui nous a empêchés de déployer OpenClaw
00:00:47et Hermes un peu partout.
00:00:49C'est aussi un peu la raison...
00:00:50C'est comme cette immense opportunité qu'a eue
00:00:52ClaudeTag lors de son récent lancement il y a quelques jours,
00:00:54où il devait devenir le cerveau de l'entreprise,
00:00:56mais où tout le monde s'est dit, eh bien, ça
00:00:57ne... il ne semble pas que ça va être le cerveau
00:01:00de l'entreprise, n'est-ce pas ?
00:01:01Je vais donc aborder ce qui rend la chose complexe.
00:01:03Alors avant d'entrer dans le vif du sujet, essayons de comprendre et de décortiquer
00:01:07cette histoire de cerveau d'entreprise, d'accord ?
00:01:09Je suis Tanmay.
00:01:10Je suis le PDG et cofondateur de PromptQL.
00:01:13Vous pourrez aller voir PromptQL plus tard, mais notre parcours en tant qu'équipe
00:01:18à l'origine de ceci, c'est que nous venons de Hustle Graph...
00:01:21nous sommes les créateurs du moteur GraphQL Hustle.
00:01:23C'est un projet open source très populaire dans l'écosystème GraphQL
00:01:26où nous résolvons de nombreux problèmes d'accès aux données.
00:01:28Nous avons déployé des solutions partout, d'Apple à Meta en passant par JPMorgan,
00:01:32et ainsi de suite.
00:01:33Et cela nous a en quelque sorte forgé une base solide pour...
00:01:39et une sorte de relation d'amour-haine avec les données
00:01:43et la sécurité des données.
00:01:44Je vais donc vous montrer ce sur quoi nous travaillons depuis l'année dernière
00:01:51et ce que nous en avons retiré, afin que vous puissiez
00:01:53vous en inspirer, le mettre en pratique et l'essayer
00:01:56par vous-même.
00:01:58Et bien sûr, à la fin de cette présentation, je serai ravi d'échanger
00:02:01quelques mots pour voir ce qui fonctionne ou ce qui pourrait ne pas marcher pour vous.
00:02:06Au cours de l'année écoulée, nous n'avons noué des partenariats qu'avec un petit groupe
00:02:08de personnes ayant affiché une certaine exigence d'échelle.
00:02:12Cela représente environ 15 à 20 personnes jusqu'à présent.
00:02:15Et nous commençons tout juste à l'ouvrir à d'autres.
00:02:17Mais au fil du temps, nous avons examiné trois types
00:02:20de profils aux besoins très différents.
00:02:22Vous avez des entreprises natives de l'IA qui sont prêtes à faire
00:02:25n'importe quoi du moment que ça marche.
00:02:27Vous avez des entreprises à la pointe de la tech, comme Instacart,
00:02:30qui apprécient les technologies de pointe.
00:02:33Elles avancent donc rapidement.
00:02:34Elles acceptent que les choses puissent casser.
00:02:36Mais il faut que ce soit vraiment, vraiment performant, n'est-ce pas ?
00:02:38Et puis vous avez les banques du Fortune 100 qui ont un niveau
00:02:41de sécurité maximal.
00:02:43Dieu merci, parce que c'est ma banque.
00:02:45Je ne veux surtout pas d'agents IA codés au feeling qui s'exécutent
00:02:48au sein d'une banque, car c'est là que se trouve mon argent.
00:02:51Elles ont donc beaucoup de règles de sécurité.
00:02:54Merci infiniment.
00:02:55Mais nous sommes également déployés dans ce genre d'endroits,
00:02:59avec en quelque sorte les prémices ou le lobe frontal
00:03:01d'une marque d'entreprise, n'est-ce pas ?
00:03:02Nous pouvons donc parler de ce genre d'apprentissages.
00:03:05Notre propre usage en interne pour bâtir notre cerveau d'entreprise,
00:03:10cela représente environ 5 000 pages.
00:03:13Nous le modélisons sous forme de wiki.
00:03:14Vous pouvez le modéliser comme vous voulez.
00:03:16Vous pouvez en faire un ensemble de fichiers Markdown sur GitHub.
00:03:17Vous pouvez l'intégrer dans... vous vous souvenez de graph frag ?
00:03:21Vous pouvez le modéliser dans des graphes de connaissances.
00:03:23Vous pouvez faire ce que vous voulez.
00:03:25Vous pouvez donc le placer où bon vous semble.
00:03:27Mais pour nous, il s'agit d'environ 5 000 pages interconnectées.
00:03:32Une question pour vous.
00:03:33Supposons que vous ayez un cerveau d'entreprise qui fonctionne.
00:03:36Il fonctionne bien.
00:03:37Il est entièrement configuré, n'est-ce pas ?
00:03:40Il y aurait un certain nombre de mises à jour quotidiennes
00:03:41apportées à ce cerveau d'entreprise, n'est-ce pas ?
00:03:44Puisqu'il apprend des choses de tout le monde dans l'entreprise, n'est-ce pas ?
00:03:47Exactement.
00:03:47Des finances aux RH, en passant par les ingénieurs et tout le reste.
00:03:52Si vous deviez tracer le nombre quotidien de mises à jour apportées
00:03:55au cerveau de l'entreprise, à quoi est-ce que cela ressemblerait ?
00:04:00Est-ce que ce serait plutôt une tendance à la baisse ?
00:04:04Genre, ce sont tous des graphiques aléatoires.
00:04:05Mais est-ce que ça commencerait par monter avant de baisser ?
00:04:09Est-ce que ce serait stable, avec des hauts et des bas au gré des pics de mises à jour ?
00:04:12Ou est-ce que ça augmenterait régulièrement vers le haut ?
00:04:16Réfléchissons un peu à ce à quoi ressemblerait l'historique des commits
00:04:18de votre dépôt de compétences partagées, n'est-ce pas ?
00:04:21Combien de mises à jour subit un cerveau d'entreprise sain,
00:04:26chaque jour ? N'est-ce pas ?
00:04:27À quoi ressemble cette tendance ?
00:04:29Des partisans de l'option A ?
00:04:31Quelqu'un pense que c'est l'option A ?
00:04:33OK, très bien.
00:04:34L'option B ?
00:04:37L'option C ?
00:04:39C'est sympa.
00:04:41Et donc, quand j'ai tracé nos propres données, n'est-ce pas,
00:04:44pour voir à quoi ressemble un cerveau d'entreprise en bonne santé,
00:04:47si l'on regarde le premier cas, cela revient à dire :
00:04:50nous avons eu beaucoup d'enthousiasme.
00:04:53Nous avons construit le cerveau de l'entreprise le premier jour, le deuxième jour.
00:04:56Nous avons confié la tâche à quelqu'un en lui disant :
00:04:57crée tout le dépôt de compétences partagées,
00:04:59scanne tout Slack, scanne tous les e-mails, construis-le,
00:05:02et on l'utilisera tous.
00:05:03Et puis plus personne ne s'en soucie, n'est-ce pas ?
00:05:05Ou alors, vous avez un système doté d'un auto-apprentissage.
00:05:07Peut-être avez-vous déployé un Hermes en interne.
00:05:09Je regarde donc ce cas de figure où l'on ajoute régulièrement
00:05:11de plus en plus de commentaires.
00:05:12Ça monte et ça descend selon l'enthousiasme de chacun, n'est-ce pas ?
00:05:14Exactement.
00:05:15Et puis, lorsque j'ai tracé notre historique sur ces deux derniers mois
00:05:19- et c'est un peu dépassé à présent -
00:05:22voici ce que nous avons obtenu.
00:05:24Et j'ai été plutôt choqué.
00:05:26Je me suis dit : pourquoi est-ce que ça continue d'augmenter ?
00:05:30C'est une courbe douce, d'accord ?
00:05:32Mais pourquoi ça monte tout doucement ?
00:05:34Pourquoi le nombre de mises à jour par jour augmente-t-il ?
00:05:38Et c'était fascinant à observer.
00:05:39Parce que ce que j'ai réalisé, c'est que si vous avez un système qui commence
00:05:42à fonctionner, ce qui se passe, c'est que les gens commencent à lui en apprendre beaucoup plus.
00:05:46C'est comme si je vous apprenais la compétence pour interroger des données, et que
00:05:50demain je vous apprends la compétence pour interpréter ces données.
00:05:53Et puis après-demain, je vais
00:05:55vous apprendre la compétence pour agir en fonction de cela.
00:05:57Et après, je vais trouver
00:05:59comment faire des tests A/B basés sur... donc les gens
00:06:00comme vous n'arrêtent pas d'en rajouter.
00:06:03Mais comme tout fonctionne avec des agents et qu'aucun apprentissage n'est parfait,
00:06:05n'est parfait, tout a aussi une sorte de rythme de croisière, n'est-ce pas ?
00:06:08hein ?
00:06:08Donc les rythmes...
00:06:10même vos rythmes de croisière finissent par s'accumuler.
00:06:12Et c'est ce que j'ai commencé à remarquer chez nous aussi.
00:06:15C'est le début, alors qui sait si ça va finir par s'essouffler.
00:06:18Peut-être que ça va commencer à ressembler davantage à l'option B.
00:06:20Mais pour un cerveau en bonne santé, bien sûr, la taille globale continue d'augmenter.
00:06:24Cependant, vos mises à jour quotidiennes continuent également d'augmenter.
00:06:28C'est donc le signe d'un bon cerveau que vous avez construit, n'est-ce pas ?
00:06:32Un cerveau sain que vous avez bâti pour votre entreprise.
00:06:35Fantastique.
00:06:36Les cas d'usage du cerveau d'entreprise nous amènent à analyser la façon
00:06:39dont nous construisons un système qui ne fuit pas les secrets, n'est-ce pas ?
00:06:42Donc, deux cas d'usage.
00:06:44Le premier cas d'usage, c'est qu'il y a un cerveau d'entreprise.
00:06:48Je veux l'utiliser dans mon IA, mon agent, ou autre, pour accomplir du travail, n'est-ce pas ?
00:06:55Je vais vous en montrer un exemple, d'accord ?
00:06:56C'est comme si j'avais reçu un e-mail avec un questionnaire de sécurité
00:06:59que je dois remplir de la part d'un client.
00:07:00Et je parle à mon IA en lui disant de consulter le cerveau de l'entreprise
00:07:03pour m'aider à répondre au questionnaire de sécurité, d'accord ?
00:07:05C'est donc un cas d'usage tout à fait valable pour un cerveau d'entreprise.
00:07:08Deuxième cas d'usage très utile, n'est-ce pas ?
00:07:10Parce que ce sont les connaissances des autres qui me parviennent.
00:07:14Le deuxième cas d'usage du cerveau d'entreprise est un peu similaire à Cloud Tag,
00:07:18c'est cette idée de multijoueur.
00:07:21Et si vous avez placé des agents dans Slack à des endroits où plusieurs personnes
00:07:25peuvent interagir avec, c'est un peu comme si vous l'utilisiez comme une IA partagée, non ?
00:07:29Genre, faire avancer les choses.
00:07:32Un exemple de cela pourrait être la gestion collaborative d'incidents, n'est-ce pas ?
00:07:36Par exemple, vous voulez dire, hé, je veux récupérer des journaux.
00:07:40Je veux enquêter sur... il y a un incident.
00:07:42Va chercher des journaux, enquête sur la base de code, crée la PR, déploie sur la préprod,
00:07:46déploie en production, configure une alerte, n'est-ce pas ?
00:07:48Vous voulez que plusieurs personnes fassent des choses avec le cerveau de l'entreprise.
00:07:51Ce sont donc les deux cas d'usage du cerveau d'entreprise.
00:07:53L'un est ce cas d'usage de connaissances partagées et collaboratives,
00:07:56et l'autre est un cas d'usage d'IA partagée, non ?
00:08:00Tous deux posent un énorme problème de sécurité, n'est-ce pas ?
00:08:06Alors, pour commencer à sécuriser tout ça, définissons cela un peu plus fermement, d'accord ?
00:08:15Qu'est-ce que c'est exactement qu'un cerveau d'entreprise ?
00:08:18Et voici ma définition, d'accord ?
00:08:20C'est un contexte partagé que vous mettez en Markdown,
00:08:23que vous mettez dans un ensemble de fichiers Markdown, n'est-ce pas ?
00:08:26Et ce sont des règles de contrôle d'accès pour les différentes données et outils
00:08:29auxquels vous voulez accéder, donnés à un agent de programmation.
00:08:34C'est donc comme ça que je l'appelle pour...
00:08:38vu que c'est moi qui parle, je peux définir ce que je veux.
00:08:41C'est ma définition.
00:08:42Je ne dis pas qu'il s'agit de connaissances intégrées dans un LLM
00:08:46qui effectuera des appels d'outils, n'est-ce pas ?
00:08:48Ce n'est pas une IA qui fait des tâches généralistes.
00:08:51C'est une IA qui est un agent de programmation résolvant n'importe quel problème que vous lui soumettez, d'accord ?
00:08:56C'est un peu similaire à la... un peu comme l'intervention précédente que vous avez pu entendre,
00:09:00c'est cette idée de se dire : est-ce qu'on peut simplement utiliser un agent de codage pour résoudre des problèmes généraux ?
00:09:04C'est ça, non ?
00:09:05Dans le cas le plus simple, si vous dites, hé, écris-moi un tweet, vous écrivez un petit script qui appelle une IA pour rédiger un tweet, n'est-ce pas ?
00:09:13Vous n'avez probablement pas besoin de faire ça.
00:09:14L'IA elle-même peut tout simplement vous renvoyer le tweet.
00:09:17Mais, en gros, Claude Code est utilisé pour tout.
00:09:20Claude Co-work repose sur la même architecture.
00:09:22L'application Codex a la même architecture, c'est cette prise de conscience qu'on peut utiliser des agents de code pour résoudre des problèmes généraux.
00:09:28Nous construisons donc le cerveau pour cela.
00:09:30Nous ne construisons pas un gigantesque graphe de connaissances ou une base de connaissances pour l'entreprise pour ensuite essayer de la sécuriser.
00:09:34De toute façon, ça n'a pas... ça n'a pas marché, ça ne marchera pas.
00:09:39Donc, concernant la façon dont nous voulons aborder la conception du cerveau de l'entreprise, devrions-nous construire un cerveau d'entreprise ?
00:09:50Alors, si vous êtes dans une grande entreprise et qu'on vous paie à vous croiser les bras, l'idée de bâtir un cerveau d'entreprise vous séduit.
00:09:57Parce que vous vous dites, oui, lanceons-nous dans un projet de deux ans et je vais construire le cerveau de l'entreprise pour J.P. Morgan.
00:10:02Ça ne va pas se faire.
00:10:03On ne peut pas construire un cerveau d'entreprise pour une organisation qui a, genre, 100 ans, n'est-ce pas ?
00:10:07On a déjà du mal à le faire pour sa propre famille, non, qui n'existe que depuis des mois ou des années, non ?
00:10:13L'idée et la méthode pour concevoir un cerveau d'entreprise, c'est de faire en sorte que chaque personne qui effectue une petite partie du travail possède et construise sa part du cerveau de l'entreprise, d'accord ?
00:10:23C'est de cette façon qu'il faut le construire.
00:10:25C'est donc la contrainte numéro deux que je pose.
00:10:27La première était la définition du cerveau d'entreprise, et la seconde concerne l'approche que nous voulons adopter pour sa construction.
00:10:33J'aime bien formuler les choses ainsi : nous allons cultiver un cerveau d'entreprise, nous n'allons pas le fabriquer de toutes pièces, n'est-ce pas ?
00:10:41Nous allons le laisser se constituer.
00:10:43Le laisser se former.
00:10:44Le système doit se mettre en place tout seul, sinon il est impossible à bâtir.
00:10:47Très bien.
00:10:48De manière générale, nous voulons permettre à chacun de gérer en autonomie sa part du cerveau d'entreprise, et voici donc les différentes étapes à suivre.
00:10:57J'y reviendrai plus en détail si vous avez le temps, mais commençons par un cas d'usage particulier, d'accord ?
00:11:03Donc, dans ce cas d'usage particulier, je me retrouve dans cette situation, qui est l'exemple concret que je veux vous présenter.
00:11:12J'ai reçu un e-mail, prenons l'exemple simple d'un questionnaire de sécurité, d'accord ?
00:11:15Hé, j'ai reçu un e-mail de Dave chez Stitch Fix, contenant une série de questions auxquelles je dois répondre, n'est-ce pas ?
00:11:20L'outil récupère donc mon e-mail, montre qu'il inclut une capture d'écran de leur processus d'intégration de sécurité, puis commence à répondre à ces questions, d'accord ?
00:11:30Je n'ai aucune idée de comment il a su.
00:11:32J'ai été plutôt très surpris de voir qu'il a répondu à toutes les questions sur, genre, voilà notre centre de confiance, voilà à quoi ressemble notre sécurité, ils ont une passerelle, non ?
00:11:40Ça fait quelque chose.
00:11:41Tout cela provient en quelque sorte du cerveau de l'entreprise, ce qui fournit la réponse, et ensuite je peux dire : hé, vas-y, envoie ça.
00:11:50Ce brouillon me plaît, va de l'avant et envoie ce brouillon à Dave, d'accord ?
00:11:53Et il part envoyer cet e-mail, un exemple vraiment simple de ce que je veux faire.
00:11:57Maintenant, le défi ici, et le problème, c'est : comment construire un système auquel quelqu'un d'autre peut contribuer et qu'une tierce personne utilisera ensuite ?
00:12:13Comment cette connaissance sur notre politique de sécurité est-elle arrivée là ?
00:12:18Vraisemblablement, quelqu'un d'autre travaillait sur ce même questionnaire de sécurité, n'est-ce pas ?
00:12:22Ils avaient donc, disons, un agent Hermes ou autre.
00:12:24Ils étaient en train de travailler dessus.
00:12:25Vous avez enregistré de la mémoire automatiquement.
00:12:27Peut-être que quelqu'un a rédigé une compétence.
00:12:28D'une manière ou d'une autre, cet élément doit parvenir à mon agent IA.
00:12:32Comment allons-nous rendre cela possible, hein ?
00:12:35Essayons maintenant la première solution évidente, à savoir que tout le monde rédige des compétences partagées pour les autres sur GitHub.
00:12:42Ainsi, la première fois que le questionnaire de sécurité a été rempli par votre responsable de la sécurité... imaginez votre spécialiste de la sécurité et de la conformité dans votre tête, n'est-ce pas ?
00:12:50Maintenant, imaginez qu'après avoir répondu au questionnaire... c'est pénible de répondre à des questionnaires.
00:12:56Après avoir rempli cet immense tableau Excel de questionnaire, ils sont allés sur GitHub pour mettre à jour une compétence partagée, n'est-ce pas ?
00:13:04Beaucoup d'entre vous ont la chance de travailler avec des gens formidables, d'une gentillesse incroyable, qui vont mettre à jour des compétences partagées dans un dépôt GitHub, n'est-ce pas ?
00:13:16La plupart des gens ne le feront pas.
00:13:18Personne ne va écrire des compétences pour quelqu'un d'autre sur GitHub.
00:13:24Genre, ce n'est pas quelque chose qui nous vient naturellement, si ?
00:13:27Dans le travail quotidien, on ne se dit pas soudainement : oh, ça pourrait être super utile pour quelqu'un d'autre que je ne connais même pas et à qui je ne suis pas relié dans cette situation à l'avenir.
00:13:39Ça n'arrivera pas.
00:13:40J'arrive à peine à gérer ma propre mémoire et mon contexte.
00:13:44Je n'ai pas le temps de l'envoyer à quelqu'un d'autre, de l'écrire pour quelqu'un d'autre.
00:13:49Deuxième option, au lieu d'avoir un cerveau d'entreprise, pourquoi ne pas faire un cerveau d'équipe ?
00:13:53Pourquoi ne pas tous utiliser un seul partage ?
00:13:55Pourquoi l'équipe de sécurité n'utilise-t-elle pas un silo partagé de plus où l'on peut faire cela, n'est-ce pas ?
00:14:01Alors, construisez un agent et faites en sorte qu'il enregistre lui-même ses données en mémoire, d'accord ?
00:14:04Et c'est un peu l'architecture que beaucoup d'entre vous ont, avec peut-être quelque chose comme Hermes ajouté à Slack.
00:14:09Est-ce que certains d'entre vous ont une situation de cerveau d'équipe où vous avez une IA utilisée par plusieurs personnes qui sauvegarde automatiquement la mémoire ?
00:14:18Est-ce que quelqu'un a déjà une sorte de compétence qui fait ça, juste pour une petite équipe ?
00:14:23Une. D'autres ? D'accord.
00:14:24D'accord, quelques-uns d'entre vous ont ça. C'est cool.
00:14:26C'est bien, mais le problème c'est que ce n'est toujours pas un cerveau d'entreprise parce que ça reste isolé, non ?
00:14:31C'est donc un silo de plus, n'est-ce pas ? Par exemple, avec claw tag, il y a une mémoire par canal, non ?
00:14:40Donc c'est enregistré dans chaque canal, mais c'est devenu un autre silo dans ce canal-là, n'est-ce pas ?
00:14:46C'est donc de nouveau enfermé dans un seul endroit qui ne peut pas être utilisé ailleurs.
00:14:50Donc si quelqu'un était ajouté au canal, ça marcherait, mais sinon ça ne marcherait pas, n'est-ce pas ?
00:14:55Et c'est donc la troisième option.
00:14:59La troisième option consiste à dire que tout le contexte va dans un unique wiki partagé.
00:15:06Un wiki est un ensemble de fichiers Markdown, et les fichiers Markdown peuvent se lier entre eux.
00:15:08Imaginez donc un dossier gigantesque.
00:15:10Le dossier contient beaucoup de fichiers Markdown, n'est-ce pas ?
00:15:13Et les fichiers Markdown peuvent se lier entre eux.
00:15:16Donc tout le contexte, au lieu de l'enregistrer dans un dossier ou de le cloisonner,
00:15:21vous le mettez dans un fichier Markdown, l'équivalent d'un fichier Markdown,
00:15:25et vous le laissez se lier aux autres.
00:15:28La deuxième chose à faire est de permettre à chaque fichier d'avoir des portées
00:15:33sur les personnes qui ont un accès en lecture/écriture à ce fichier.
00:15:38La troisième chose que vous faites, qui est la plus importante,
00:15:42c'est de ne pas laisser l'agent ajouter automatiquement la mémoire.
00:15:49Vous ne le laissez pas l'ajouter automatiquement car s'il le fait, vous n'avez aucune idée de ce qui s'est passé, n'est-ce pas ?
00:15:55On ne peut pas -- on en revient au même monde où des choses sont ajoutées,
00:16:00et tant que vous êtes dans la mémoire de cet agent, vous avez de la chance, n'est-ce pas ?
00:16:04Donc la troisième chose à faire, au lieu de laisser l'agent l'ajouter automatiquement,
00:16:07c'est de faire en sorte que votre agent suggère ce qui est ajouté avec quelles portées,
00:16:16et de laisser ensuite l'humain accepter ou rejeter.
00:16:21Ce n'est donc pas aussi lourd que GitHub, où je dois aller écrire ceci, mettre à jour une compétence partagée,
00:16:28faire une revue de PR et ensuite fusionner le tout.
00:16:30Mais ce n'est pas non plus le mode YOLO où la mémoire est simplement écrite automatiquement par l'agent,
00:16:36n'est-ce pas ? C'est un peu le juste milieu où, pendant que vous travaillez,
00:16:40vous faites apparaître la suggestion, vous proposez les bonnes portées et vous laissez quelqu'un l'ajouter.
00:16:45Alors maintenant, avec cet ajout très simple, n'est-ce pas, vous permettez aux gens d'ajouter
00:16:51des éléments à un wiki gigantesque, mais vous laissez cette personne assumer la responsabilité de ce qu'elle peut voir ou non.
00:16:57Donc si j'ajoute quelque chose au wiki des finances, je veux m'assurer -- j'ajoute quelque chose
00:17:01qui est sensible, je veux m'assurer que cela a une portée financière.
00:17:03Si j'ajoute quelque chose de personnel, je veux m'assurer que c'est une portée personnelle.
00:17:06Laissez-moi vous montrer un exemple d'interface utilisateur de ce à quoi cela pourrait ressembler. C'est ce que nous faisons.
00:17:15Voici un e-mail récent que j'ai reçu de l'un de nos commerciaux m'ajoutant à un appel.
00:17:33J'ai regardé cet e-mail, j'ai aidé à y répondre, puis j'ai obtenu une petite boîte qui suggérait
00:17:39un ensemble de points m'indiquant ce qui allait être ajouté, n'est-ce pas ?
00:17:43Et lorsque je clique sur ajouter au wiki -- c'est donc beaucoup plus facile pour moi de revoir ce qui est ajouté.
00:17:47Je m'en fiche. Je m'en fiche que ce soit ajouté dans ce fichier Markdown ou dans celui-là,
00:17:52l'agent s'occupe des liens. Ce qui m'importe, c'est de savoir si ces faits sont corrects.
00:17:58Si ces faits sont exacts, je vais cliquer sur ajouter au wiki et j'en aurai fini, d'accord ?
00:18:02Et au moment d'ajouter au wiki, je peux choisir quelles portées doivent être ajoutées par page wiki ou non,
00:18:08n'est-ce pas ? Chaque page wiki elle-même peut donc obtenir un certain ensemble de portées pour décider
00:18:12qui a accès à quoi, par exemple, n'est-ce pas ? Donc par exemple, mon e-mail, c'est la page wiki
00:18:17que j'ai pour mes e-mails et la façon dont ils sont prioritaires, et je peux maintenant décider qui y a accès,
00:18:22qui en sont les propriétaires et quel est le RBAC associé. Quelle que soit l'apparence du système,
00:18:26c'est à vous de voir, mais l'idée fondamentale est d'amener l'agent à suggérer une modification
00:18:32plutôt que de l'effectuer lui-même. Très bien. Donc deux règles. Premièrement, assurez-vous que tout va dans un seul
00:18:38wiki d'entreprise, ne dérogez pas à cette règle. Deuxièmement, assurez-vous que, dans le cadre de cela,
00:18:44chaque modification est associée au nom d'un humain. Rien ne devrait être autorisé dans le wiki avec la mention « Claude a ajouté
00:18:51ceci » ou « Votre agent IA a ajouté ceci » ou « Hermes a ajouté ceci ». Non, « Tanmay a ajouté ceci ». Ce nom doit
00:18:57être présent pour que vous puissiez remonter jusqu'à la personne qui a fait n'importe quoi et permis à tout le monde de voir,
00:19:04par exemple, les salaires de tout le monde, n'est-ce pas ? Et peu importe, vous pouvez maintenant prendre des mesures correctives,
00:19:09n'est-ce pas ? Quelles qu'elles soient. Mettez-les sous plan de redressement. Vous ne saviez pas comment modifier un wiki. C'est donc très,
00:19:14très important. Et règle numéro deux, une fois que c'est décidé, vous pouvez passer à la deuxième portée, c'est-à-dire
00:19:19qu'il faut leur faciliter la tâche, ce qui nous amène à cette histoire de portées,
00:19:23où vous voulez attribuer une portée à chaque fichier selon qui y a accès. Vous allez construire un système
00:19:26autour de cela. Voilà à quoi ressemble un diagramme d'architecture,
00:19:32où vous avez des utilisateurs. Les utilisateurs parlent à l'agent. L'agent, lorsqu'il lit le contexte,
00:19:39utilise les revendications de cet utilisateur particulier, n'est-ce pas ? Donc si je lis quelque chose
00:19:46pour résoudre un problème financier, il utilise la revendication financière pour lire en mon nom
00:19:52car j'avais accès au wiki financier, donc je peux le lire et c'est fait à chaque fois, n'est-ce pas ?
00:20:00Très bien. Je n'ai plus beaucoup de temps pour le deuxième cas d'utilisation. Ce que je vais donc faire,
00:20:06c'est vous donner un aperçu rapide de ce second cas, mais en élargissant cette idée. C'est le cas suprême.
00:20:13C'est un cas d'utilisation vraiment compliqué, car maintenant
00:20:17il ne s'agit pas seulement d'une personne qui répond à un e-mail. C'est un groupe d'entre nous utilisant le contexte partagé
00:20:25pour résoudre un problème avec différents niveaux d'escalade et de privilèges en même temps, n'est-ce pas ?
00:20:31Et ce sont les types d'interactions avec l'IA où le plus grand volume
00:20:36de connaissances de l'entreprise est créé, n'est-ce pas ? Par exemple, je vais vous montrer un cas réel
00:20:42de ce à quoi cela ressemble pour nous. C'est donc un cas issu d'une situation SRE où
00:20:50quelqu'un disait : Hé, notre apprentissage automatique, notre apprentissage du wiki, de manière assez méta, échouait.
00:20:57Ça ne fonctionnait pas. Qu'est-ce qui se passe ? N'est-ce pas ? Et puis il commence à enquêter et c'est nul,
00:21:02parce qu'il n'avait pas de compétence. Il a échoué. Alors il se dit : Frère, ne fais pas ça. Utilise ce nom de portée OpenTelemetry.
00:21:07Il a utilisé un nom de portée OpenTelemetry. Il a fait un travail légèrement meilleur, mais c'était toujours très lent.
00:21:13Il a regardé le code et s'est dit : Oh, tu utilises une requête "like". Tu es vraiment un imbécile.
00:21:18C'est Opus 4.5. Ne fais pas ça, n'est-ce pas ? Il lui dit donc de ne pas utiliser de requête "like",
00:21:24mais une requête d'égalité. Et ensuite, il fait une requête d'égalité, ce qui fait surface à certains détails
00:21:29et il dit : Oh, creuse plus profondément là-dedans. Et il répond : Bref, c'est la ligne de code
00:21:33d'où vient l'erreur. Des choses simples, n'est-ce pas ? C'est là qu'il fait surface des connaissances et dit :
00:21:39Aha, j'ai appris qu'il fallait utiliser l'égalité et non "like", n'est-ce pas ? J'ai appris que si vous avez un préfixe
00:21:45personnalisé ajouté aux noms de pages du wiki, cela peut poser des problèmes, n'est-ce pas ? Il propose donc ces apprentissages
00:21:50que vous pouvez choisir d'accepter. Il a donc creusé un peu plus profondément dans la nature du problème.
00:21:56Quelqu'un d'autre a rejoint la conversation, n'est-ce pas ? Et a dit : La décision technique que nous avons prise ici
00:22:02est fausse. Pourquoi cela se produit-il ? Et maintenant, deux personnes commencent à se disputer, n'est-ce pas ? Ils se disputent,
00:22:09en disant : Hé, ça ne devrait pas être comme ça. Ça devrait être comme ça. Mais pourquoi c'est comme ça ? Mais ça devrait
00:22:12être comme ça, n'est-ce pas ? Cette dispute crée de la connaissance parce que le vrai problème était que quelqu'un avait pris
00:22:17une décision technique qui n'était pas documentée, n'est-ce pas ? Lorsqu'ils décident de résoudre ce problème,
00:22:22qu'ils constatent que c'est bien la cause racine et qu'ils décident que c'est de cette façon qu'il sera résolu :
00:22:26Hé, nous devrions supprimer ce préfixe qui pose problème, peu importe ce que c'est,
00:22:31cela crée le contexte de la plus haute qualité à ajouter à votre cerveau. Parce que la suggestion précédente était de dire,
00:22:38euh, les pages ne devraient pas avoir de préfixe, mais le fait que les pages aient un préfixe pose problème.
00:22:44N'est-ce pas ? Donc maintenant, la chose que vous documentez dans le cerveau, c'est que les pages ne doivent pas avoir de préfixe.
00:22:49Si elles ont un préfixe, cela peut causer des problèmes de recherche en production. C'est ce qui arrive quand plusieurs personnes se parlent
00:22:54et résolvent des problèmes ensemble. C'est ce qui se passe dans un fil Slack quand deux personnes se parlent
00:22:59et résolvent un problème. Cela crée le contexte de la plus haute qualité. Mais c'est donc ce dont
00:23:05vous avez envie ici. Mais le défi, c'est que l'escalade des privilèges autour de cela devient très, très sérieuse.
00:23:10Si vous construisez un agent qui peut tout faire entouré de plusieurs personnes, c'est effrayant.
00:23:18Parce que l'ingénieur avait le droit de faire le travail de PR, mais maintenant je peux utiliser le même agent pour
00:23:23déployer en production. C'est trop effrayant. Je ne peux pas avoir une conversation où je débogue et
00:23:29déploie en toute sécurité, n'est-ce pas ? Surtout si vous êtes dans une banque, n'est-ce pas ? Les gens qui déboguent,
00:23:35déploient sur la staging, configurent une alerte et déploient ne sont pas les mêmes. Mais que ce soit la même personne a
00:23:40beaucoup de valeur parce que c'est là que résident toutes les connaissances, n'est-ce pas ? Et cela nous amène donc
00:23:45à la seconde architecture, dans laquelle je ne vais pas trop entrer dans les détails. Mais considérez cela comme
00:23:49la même idée où les identifiants et revendications des utilisateurs étaient utilisés pour lire le contexte. Au lieu de cela, utilisez aussi les identifiants utilisateur,
00:23:58n'est-ce pas ? Lorsque le code exécute des outils. Ne stockez donc jamais d'identifiants dans le bac à sable.
00:24:05Au lieu de cela, au niveau HTTP, au niveau SQL, injectez les identifiants de l'utilisateur, permettant à l'IA de se comporter comme
00:24:13l'humain lors d'une interaction particulière, n'est-ce pas ? Il y a donc des détails intéressants ici. Mais c'est ce qui
00:24:20permet à une IA partagée de travailler avec un contexte partagé, n'est-ce pas ? Et ce sont là les deux éléments clés
00:24:25avec lesquels travailler. Je résumerais donc, et cette architecture n'est pas particulièrement compliquée, mais il est très simple
00:24:30de concevoir à rebours à partir de ces deux règles. Ne stockez pas d'identifiants dans le bac à sable cloud. Et deuxièmement,
00:24:36virtualisez toutes les interactions avec des données réelles, faites-en un proxy, virtualisez-les, quel que soit le mot que vous voulez employer,
00:24:41et laissez les utilisateurs les contrôler. Ainsi, l'utilisateur qui ajoute un outil particulier doit contrôler qui a accès
00:24:48à cet outil particulier. Vous pouvez donc déduire tout cela si vous suivez simplement ces quatre principes
00:24:53et raisonnez à rebours à partir de ceux-ci. Il n'y a qu'une seule architecture possible qui ait du sens
00:24:58dans la façon dont vous gérez le contexte, les contraintes que vous mettez en place, la façon dont vous gérez les outils et les règles de sécurité
00:25:02que vous définissez. C'est tout pour mon temps. Je serai ravi de discuter davantage après la conférence. Nous avons également un stand,
00:25:10donc heureux d'en discuter plus en détail sur les nuances de cette architecture. Je suis Tanmay Goh sur
00:25:16Twitter. Nous nous appelons PromptQL. Venez nous voir. Après tout, avec la communauté d'ingénierie en IA,
00:25:24nous allons faire un lancement de produit. Et j'aimerais beaucoup le partager, les amis, le partager avec tout le monde.
00:25:30Je vais prendre une photo avec tout le monde sur scène pour pouvoir la partager. Laissez-moi faire ça pendant que je suis ici.
00:25:40Très bien. Est-ce que les gens veulent dire ouistiti ?
00:25:45Merci beaucoup. Restez donc à l'affût. C'est notre approche du Cloud Tag, qui est PromptQL Tag,
00:25:52ce qui est très similaire aux idées dont nous avons discuté ici, à part que vous n'êtes pas bloqués sur le Cloud.
00:25:57Vous pouvez utiliser GLM, vous pouvez utiliser GPT, et puis Sol sort, et nous pourrons l'utiliser et bien nous amuser.
00:26:03N'hésitez donc pas à y jeter un œil. Sur ce, à très bientôt.
00:26:19Nous serons de retour dans un instant.