記憶もハーネスもなし：データベースが最後の防衛線である理由 — Kay Malcolm (Oracle)
AAI Engineer
Computing/SoftwareManagementInternet Technology
Transcript
00:00:00Tanya Cushman 査読者：Peter van de Ven
00:00:12皆さん、楽しんでいますか？
00:00:15もっと盛大なリアクションが欲しいですね。
00:00:18それでは自己紹介をします、ケイ・マルコムです。
00:00:21元ヒップホップのインストラクターです。
00:00:24だから、もっとエネルギーを出してもらわないと始め――
00:00:28楽しんでいますか？
00:00:30よし、わかりました。
00:00:32それでは今日お話しすることについて説明します。
00:00:36皆さん、2つの文字についてよく耳にしていることでしょう。
00:00:39その2つの文字が何か当てたい人はいませんか
00:00:41私が今日お話しする内容の？
00:00:43なかなか良かったですよ、DB。
00:00:48AIについてお話ししますが、
00:00:50特にエージェントハーネスについてお話しします。
00:00:54その前に、何人かの方をご紹介したいと思います。
00:00:57よろしいでしょうか？
00:00:59強制選択かな？
00:01:00よろしいですか？
00:01:01はい。
00:01:02選択肢を与えましたから。
00:01:04ねえ？
00:01:04とにかく。
00:01:05さてと。
00:01:05わかりました。
00:01:06これが私のチームです。
00:01:09私はOracleでアウトバウンドデータベース製品管理チームを率いています。
00:01:14Oracleにはかなり長く、20年在籍しています。
00:01:17面白い話ですが。
00:01:1812歳の時に始めたので、計算しないでくださいね
00:01:21頭の中で足し算を始めないように。
00:01:24そして、私たちには問題があります。
00:01:27その問題とは、プラットフォーム開発を行うグループが1つあるということです。
00:01:33そして、Live Labsのコンテンツ開発を行う別のグループがあります。
00:01:37それは私が自分で書いたプラットフォームです。
00:01:40ですから、ええ、私はエンジニアですが、ちょっとした開発者のポーズでもあります。
00:01:44それから、QAを担当する別のグループもあります。
00:01:48そして、フロントエンド開発を行うグループもあります。
00:01:52AIに関して、リーダーとして私が気づいたことは次のとおりです。
00:01:572025年のトークンマキシングの時代には、だって今はもうトークンマキシングをしていないでしょ？
00:02:05今は責任あるAIを使っていますから。
00:02:08しかし、トークンマキシングの時代において、私が気づいたのは、AIによってチームの個々のメンバーが
00:02:15迅速になる一方で、別の問題が引き起こされていたということです。
00:02:23チーム全体の生産性が向上したわけではなかったのです。
00:02:28その理由は、オランダのチームの1つが朝の4時にコードをチェックインしたとき、
00:02:37なぜなら私のチームの半分はEMEAにいて、半分はここアメリカにいるからです。
00:02:43彼らはコードをチェックインしましたが、codexからのコンテキストをチェックインしていませんでした。
00:02:49Oracleではcodexを使用しています。
00:02:51そのため、アメリカのチームが起きたとき、
00:02:56コードは手に入ったものの、コンテキストに関する情報が一切ありませんでした。
00:03:00つまり、私たちはAIが作り出した問題を解決するためにAIを使用したのです。
00:03:07私たちがやったことはこうです。
00:03:08あ、その前にこの話をさせてください。
00:03:10つまり、いくつかの問題点ですね。
00:03:12先ほど言ったように、コンテキストが共有されていませんでした。
00:03:15GitHubはそれを追跡していませんでした。
00:03:18リポジトリが乖離していく状態でした。
00:03:21私は部下のマネージャーたちに尋ねていました、チームに何が起きているのかと。
00:03:26なぜもっとスピードアップできないのかと。
00:03:29私たちはトークンに多額のお金を費やしています。
00:03:31AIに多額のお金を費やしています。
00:03:33それでも何かが欠けています。なぜなら私たちはまだ時間を費やしているからです
00:03:37テストや検証作業に。
00:03:39したがって、最終的な成果は実際には私たちにとってうまくいっていませんでした。
00:03:45なぜなら、Gitが記録するのはコードであり、人間の意図ではないからです。
00:03:49これは問題です。
00:03:50コード作成自体はもはや問題ではなくなったものの、私たちには依然としてボトルネックが存在していました。
00:04:03私たちにはコラボレーション層が必要でした。
00:04:05今、私のチームのメンバーが聴衆の中にいます。
00:04:10だから、責めないでくださいね。
00:04:12ご本人たちは分かっているはずです。
00:04:13皆さんが協力し合わなかったと言っているわけではありません。
00:04:17しかし今、私たちには新しいチームメンバーが加わりました。
00:04:20その新しいチームメンバーとはAIです。
00:04:23そこで、進捗や次のステップを追跡する方法を見つけ出す必要がありました。
00:04:29エージェントが行っている決定を合理化する方法もです。
00:04:39質問や競合を解決する方法を見出す必要がありました。
00:04:45わかりました。
00:04:48私の問題を覚えておいてください。
00:04:49私の問題を心に留めておいてくれますか？
00:04:51ちょうどここに。
00:04:51それを小さな箱にしまっておきましょう。
00:04:54エンタープライズエージェントとは何かを定義させてください。
00:04:59さて、ほとんどの人は、エンタープライズエージェントとはモデルとワークフローのことだと考えています。
00:05:05何人の人が私に同意しますか？
00:05:08まったくだ、手強い聴衆ですね。
00:05:10よし、1人。
00:05:12わかりました、残りの皆さんはもっとあると考えているのですね。
00:05:14よし、何があるか見てみましょう。
00:05:18本物のエンタープライズエージェントにはツールがあるということでしょうか？
00:05:26ツールとは、それが物事を行う方法です。
00:05:30コンテキスト。
00:05:33コンテキスト、それはコンテキストウィンドウです。
00:05:35実際のプロンプトに含まれているものです。
00:05:39メモリ。
00:05:43そして、もしあなたが「待ってよ、ケイ、メモリだって？」と考えているなら、
00:05:46モデルこそがこの仕組みのいわば脳だと言ったばかりじゃないか、と。
00:05:51落ち着いて。
00:05:52メモリについてもう少し詳しくお話しします。
00:05:55リトリーバル（検索）。
00:05:57すべての情報をそのまま引き出したいわけではないからです。
00:05:58つまり、適切な情報を正確に取得できるということです。
00:06:03それから、ここには多くの開発者がいて、皆さんはセキュリティなど気にしないと思いますが。
00:06:11私はセキュリティを気にします。
00:06:13なぜなら私は最もセキュアなデータベース会社で働いているからです。
00:06:17そして私は、名前のない機関で働いていたこともあります。
00:06:22しかし、ガードレールも重要です。
00:06:25これがハーネスです。
00:06:27私はたとえ話やストーリーで語ります。
00:06:31なぜなら、私とマーベルの話をすれば、何について話しているのかが正確に伝わるからです。
00:06:38したがって、エージェントは、ガラス瓶の中に浮かぶ小さな脳のモデルのようなものだと考えてください。
00:06:46それに、このハーネスが加わります。
00:06:49このハーネスが身体です。
00:06:52つまり、エージェントが実際に物事を行い、成し遂げるための方法なのです。
00:06:58そのメモリは、中枢神経系の一部です。
00:07:03ご存じのとおり、中枢神経系は脳と身体の他の部分を結びつけています。
00:07:08脚や腕などですね。
00:07:10それが、コンテキストを伝達する中枢神経系の一部なのです。
00:07:16それでは、Gitに関する私の問題を覚えていますか？
00:07:20私に必要なのはメモリでした。
00:07:21なるほど。
00:07:22メモリの種類にはいくつかあります。
00:07:26私は5つ、人々がよく話題にする最も一般的な5つを選びました。
00:07:29そしてこれらが、皆さんに覚えてほしいものです。
00:07:321つ目は短期記憶です。
00:07:34それはセッションのことですね。
00:07:36したがって、AIプロセスのメモリを保存している場合、短期記憶とは、
00:07:44チャットやcloud code、codexなど、好きなものを使用している場合のものです。
00:07:49長期記憶は、セッションを越えて持続するものです。
00:07:55エピソード記憶、うーん、最後に「何々」とやり取りしたときに何が起きたか？
00:08:06それがエピソード記憶です。
00:08:09手続き記憶。
00:08:11ツール。
00:08:12実行された手順。
00:08:15そして最後に、意味記憶です。
00:08:17意味記憶についてですが、私たちはエンタープライズエージェントについて話しているからです。
00:08:21私が作ったエージェント、「サーシャ・フィアース」についての話ではありません。
00:08:25なぜなら、私はダンサーだと皆さんに言いましたよね。
00:08:28だから当然、私のチーフ・オブ・スタッフの名前は「サーシャ・フィアース」にするつもりでした。ビヨンセのあれですから。
00:08:34ビヨンセのファンはいますか？
00:08:37失礼しました。
00:08:38さてと。
00:08:38集中しなければなりません。
00:08:40はい。
00:08:40これがメモリの種類です。
00:08:43さて、この本物のエンタープライズエージェントとメモリを定義する際、
00:08:49どこにそれを保存すべきか、考慮すべき点があります。
00:08:53それでは皆さんにお話があります。
00:08:55ただし、この話をするにあたって、私を責めないという約束をしてください。
00:09:00約束してくれますか？
00:09:06約束してくれますか？
00:09:08録画してないですよね？
00:09:10あまり良く映る話ではないので。
00:09:12わかりました。
00:09:12では。
00:09:12昔はデータの世界もシンプルでした。
00:09:14オラクルに長くいますが、もともとは顧客企業にいました。
00:09:17その会社の名前はサザン・カンパニーです。
00:09:19電力会社でした。
00:09:20私はアトランタを拠点にしています。
00:09:22translated_text
00:09:28SQLクエリがあるとします。
00:09:29年がバレますが、まあいいでしょう。
00:09:31SQLクエリがあってですね。
00:09:32init.oraのパラメータはすべて把握していました。
00:09:34サポートに問い合わせたときですら、
00:09:36「これらは覚えてなくていいです、
00:09:37書き留めないでください」と言われるようなものまで
00:09:38ノートに書き留めていました。
00:09:40限界までクエリをチューニングできたものです。
00:09:43ある日、開発者のひとりが私のデスクにやって来ました。
00:09:47当時はすべてが行と列の世界でしたからね。
00:09:50アル・バンディの頃のような素晴らしい時代でした。
00:09:55彼がこう言ったんです。「非構造化データを保存したいんだ」と。
00:10:01なぜ？
00:10:02なぜそんなことを？
00:10:04そこで私は優秀なDBAとして、「調べてから返事をするよ」と答えました。
00:10:09調べてから返事をするよ」と答えました。
00:10:13ちゃんと連絡したでしょうか？
00:10:16返事はしませんでした。
00:10:18当時、サザン・カンパニーではこんなルールがありました。
00:10:21DBAが管理するデータベースシステムごとに、
00:10:242つの会議に出席しなければならなかったのです。
00:10:26今でもサーベンス・オクスリー法という言葉を聞くと、
00:10:28少し胃酸が込み上げてくる思いがします。
00:10:31毎週、セキュリティ会議とパッチ適用会議に出席する必要がありました。
00:10:34毎週です。
00:10:35欠かさずありました。
00:10:37さて、その開発者が非構造化データ用の専門データベースをインストールしたせいで、
00:10:44皆さん、頭の良い方ばかりだからお分かりでしょう。
00:10:46私の出席する会議はいくつになったでしょう？
00:10:544つです。
00:10:55少しイライラしましたが、「よし、やってやろう」と思いました。
00:10:59すると今度は「ケイ、君はチューニングがうまいんだから、
00:11:03このリレーションシップを何とかしてくれ」と言われました。
00:11:06当時、サザン・カンパニーには、
00:11:08「人が死ぬかもしれない」ようなアプリがありました。
00:11:11鉄塔に登る作業員が使っていた、ノキアの携帯電話のようなものです。
00:11:18嵐で停電が起きた経験はありますか？
00:11:221、2時間もすれば電気復旧するだろうと思いますよね。
00:11:27命がけで電柱に登って電気を復旧させようとしている作業員に、
00:11:32状況を伝えるそのシステムは、時々偽陽性や偽陰性を起こしていました。
00:11:37偽陽性や偽陰性を起こしていました。
00:11:39そこで、周辺のすべての電柱を調べて、
00:11:46偽陽性や偽陰性を減らそうとしたのです。
00:11:50それをSQLクエリで実現しました。
00:11:52本当に凄かったですよ。
00:11:535段階にネストしたUNION ALL文です。
00:11:57私の一番の傑作の1つでした。
00:11:59処理に20分ほどかかったかもしれませんが、グラフDBの先駆けのようなものでした。
00:12:06ええ、彼らはNeo4jをインストールしました。
00:12:10さて、私の出席する会議はいくつになったでしょう？
00:12:136つです。
00:12:14それは問題です。
00:12:16それで、あ、ちょっと話が先走りましね。
00:12:19で、どうしたと思います？
00:12:20辞めました。
00:12:23会社を辞めてオラクルに移りました。「これは問題だ、オラクルに行って解決の手助けをしよう」と思ったからです。
00:12:26解決の手助けをしよう」と思ったからです。
00:12:27すると、ジョー・マンディから電話がかかってきて、「おい、Redisをインストールしているんだ。
00:12:33オラクルは時代遅れだ。
00:12:35ベクターデータベースを手に入れたぞ」と言われました。
00:12:37なるほど。
00:12:40でもジョー、問題はここです。
00:12:45今やエージェントは、これらすべてのデータにアクセスする必要があるのです。
00:12:49データがOracleデータベースにあり、非構造化JSONデータベースにもあり、
00:12:55さらにグラフデータベースやベクターデータベースにもある場合、唯一の信頼できる情報源はどこになるのでしょうか？
00:13:03エージェントがそれを突き止めなければなりません。
00:13:04うまくいくこともあれば、
00:13:08大抵の場合は失敗し、大量のトークンを無駄に消費することになります。
00:13:12ですので、メモリをどこかに保存したい場合、ファイルシステムに保存することもできます。
00:13:20ClaudeやChatGPTに保存することも可能です。皆さんもmemory.mdファイルをご存知でしょう。
00:13:29しかし、それは問題を引き起こします。
00:13:31これを実演してみましょう。
00:13:32ボランティアが4人必要です。
00:13:33見えてますよ。
00:13:34手を挙げてください。
00:13:351人。
00:13:362人。
00:13:37あ、見えないな。
00:13:383人。
00:13:404人目がほしいです。
00:13:41あ、後ろに4人目。
00:13:42よし、後ろの4人目。
00:13:44あなたは「旧き良き信頼の存在」になってください。
00:13:47リレーショナルデータベースを担当してもらいます。
00:13:48いいですね？
00:13:50役割は分かりましたか？
00:13:52それから、こちらにいる誰か。
00:13:54あなたは非構造化データベースになってください。
00:13:57そしてもう一人は、あ、とてもいいですね。
00:14:00あなたはグラフデータベースです。
00:14:02いいですか？
00:14:02リレーションシップ担当のあなた。
00:14:03いかにもリレーションシップが得意そうです。
00:14:05よし、素晴らしい。
00:14:064人目。
00:14:064人目はどこだっけ？
00:14:09あなたでしたっけ？
00:14:09そうです。
00:14:10そう、あなたはベクターデータベースです、いいですね？
00:14:15皆さん、本当に静かにしてください。
00:14:204人のボランティアの皆さんにお願いがあります。
00:14:24今から皆さんに向かって話をするので、
00:14:27それをどのように保存し、誰が唯一の信頼できる情報源を持つべきか、
00:14:31皆さんで話し合って決めてください。
00:14:33席を立ってはダメで、小声で話すこと。
00:14:37大声で話すと、あなたたちのトークンが5つ余計に消費されますからね。
00:14:40いいですか？
00:14:41よし、準備はいいですか？
00:14:42いきますよ。
00:14:44「牛が月を飛び越えた」
00:14:48どうぞ。
00:14:51ふむ。
00:14:53これではうまくいきませんよね？
00:14:55それが問題なのです。
00:14:56なるほど。
00:14:58オラクルについてですが、もし私の言うことを1つも忘れてしまっても、
00:15:02これだけは覚えておいてほしいことが1つあります。
00:15:06オラクルは、皆さんが思っているようなオラクルではありません。
00:15:09だからこそ、私は今日ここにいるのです。
00:15:11オラクルがネイティブに、
00:15:15同じテーブル内で、同じパーティションに至るまで、
00:15:19JSON、グラフ、ベクター（あそこのベクター担当の友人のように）、
00:15:24そしてJSONの友人や空間データを保存できることを、何人が知っていましたか？
00:15:27メモリをイミュータブル（不変）にしたいですか？
00:15:30同じデータベース内でブロックチェーンを使いたいですか？
00:15:32手を挙げてください。
00:15:34ええ。
00:15:36我が社はマーケティングに問題を抱えていますね。
00:15:39つまり、どんなデータ型でも23AIデータベースに保存できます。
00:15:44どんなワークロードも。
00:15:46どこででも。
00:15:47AWS、GCP、Azure、OCI、オンプレミスで。
00:15:52選択肢と柔軟性です。
00:15:54では、これを踏まえてエージェントの話をすると、
00:15:57長期記憶や手続き型記憶はリレーショナルで保存したいわけです。
00:16:02JSONでは、短期記憶と長期記憶を保存したい。
00:16:05グラフ型なら手続き型を保存したい。手続き型は関係性や手順を把握するものだからです。
00:16:09そう、手順ですね。
00:16:11エピソード記憶や意味記憶にはベクトル処理が必要で、テキストとしても保存する必要があります。
00:16:17もし4つの異なるデータベースがあれば、ご存じの通り互いに連携できません。
00:16:25それは問題になります。
00:16:27そこで本日お伝えしたいのは、Oracle AIデータベースこそが、ハーネスを駆動するこのエージェントの
00:16:35記憶を保存するのに最適な場所だということです。
00:16:38思い出してください。ハーネスは身体であり、その記憶は中枢神経なのです。
00:16:44それでは、Polyの話に戻りましょう。
00:16:46私が抱えていた問題は、「Poly」というメモリブローカーで解決しました。
00:16:51エージェントメモリを活用したのです。
00:16:54自動的なコンティニュイティから脱却しました。
00:16:57チームメンバーはコードだけでなく、Polyを通じてコンテキストも共有できるようになりました。
00:17:07あるコンテキストウィンドウに手続き型記憶、エピソード記憶、長期記憶に関する情報があれば、
00:17:15それがチームの他のメンバーにも共有されるわけです。
00:17:19いわばエージェントと呼んでもいいでしょう。
00:17:21人間エージェントですね。
00:17:23フォーク間で共有されます。
00:17:26チームの開発者が主導権を握りつつ、Polyがコンテキストを構築し、
00:17:35どのフォーク、どのブランチ、どのコミットに属するものかを特定できるようにしました。
00:17:41これは非常にシンプルな例ですが、これを企業向けにスケールさせるとどうなるでしょうか。
00:17:49エージェントのハーネスにおいて、メモリは決して妥協できない要素になります。
00:17:53さて、これらは飛行機の中で読んだ3つの論文です。
00:17:59最初の論文はOpenAIのもので、自社製データエージェントに関するものです。
00:18:03そこで述べられているのは、自社製データエージェントには実際にメモリが必要だということです。
00:18:11単純な文字列一致ではなく、エージェントが適切にフィルタリングを行う上で、メモリは極めて重要でした。
00:18:19ハリソン・チェイスはこう言いました。「ハーネスとメモリを持て。自分のハーネスを所有していなければ、メモリも所有できない」これが鍵です。
00:18:27そして、「Claudeにはメモリがあるのに、なぜそれを使えないのか？」と皆さんは疑問に思っているでしょう。
00:18:32これはファイルシステムのようなメモリで、1つであれば機能しますが、先ほどの例のように、
00:18:381つを超えてスケールする場合、企業ではそれがスケールするため問題を引き起こします。
00:18:45そこでOracleには「Oracle Agent Memory Package」があります。
00:18:51pip install oracle-agent-memoryでアクセスできるようになります。私たちが提供するこのメモリ、このSDKは、
00:19:00ライブの会話、記憶、事実を保持し、
00:19:05何を残す価値があるかを判断するものです。Polyを見ると、ケヴィンはメモリブローカーであるPolyを通じて自身のコンテキストを共有できます。
00:19:14Oracle Agent Memory SDKを使用し、Oracle Autonomous Databaseに保存されます。
00:19:22好みのLLMを使用することも、Oracle Private AI Servicesコンテナ経由でローカルモデルを使用することもできます。
00:19:28そして、まさにここに座っているリンダが、
00:19:34ケヴィンと何の問題もなく連携して作業できます。そう、AIは個人をより迅速にします。
00:19:42Oracle AIデータベース上の共有メモリにより、チームの作業も迅速になります。ですので、皆さんは妥協する必要はありません。
00:19:49AIの時代において、26AIができることは、何が最善かを選択できる点です。エージェントメモリについては、
00:19:58ファイルシステムをデータベース内のファイルシステムとして、あるいはデータベース内に保存できます。データモデリングが必要なら、
00:20:04JSONがあり、リレーショナルがあり、選択肢が揃っています。
00:20:09さて、皆さんにお得な情報があります。Oracle AI Developer Hubでは、コーディング資料やアプリケーション、
00:20:16今日お話しした内容を手に入れられます。LiveLabs.oracle.comです。私たちのワークショップに参加したことがあるなら、
00:20:22それは約6年前、4000万人ものユーザーが利用するより前に、私自身が書いたものです。
00:20:28OCIテナンシーの予算を使って、Oracleのテクノロジーを6時間でも12時間でも、必要なだけ心ゆくまで試してみてください。
00:20:38それから、全員にMac miniをプレゼントします。うそです。
00:20:45OCI miniを差し上げます。ご存じか分かりませんが、OCIには常に無料の枠があります。これは
00:20:51どのハイパースケーラーよりも太っ腹で、無料のOracleデータベースや無料のコンピュートが手に入ります。
00:20:57月3,000通のメール送信や200GBのストレージも利用可能です。クリックすればアクセスできますし、
00:21:05Googleで「Oracle Cloud 常に無料」と検索してください。私と繋がりましょう。何かを構築したら、メッセージで
00:21:14知らせてくれますよね？良いですか？ありがとうございます。
00:21:35また次回お会いしましょう。
Community Posts
No posts yet. Be the first to write about this video!
Write about this video