Dein Unternehmen sollte seine eigenen KI-Modelle trainieren – Will Brown, Prime Intellect
원제 · Your Company Should Train Its Own AI Models - Will Brown, Prime Intellect
핵심 요약
Unternehmen nutzen zunehmend offene Open-Source-Modelle, um durch maßgeschneidertes Training auf Basis interner Arbeitsabläufe und Produktions-Traces ihr institutionelles Wissen dauerhaft in den Modellgewichten zu verankern.
하이라이트
Das Unternehmen Paper Instruments trainierte für 300.000 US-Dollar ein auf Wissensarbeit spezialisiertes Modell, das an der Pareto-Grenze für Tabellenkalkulationen und Präsentationen optimal abschneidet.
Unternehmenswissen unterscheidet sich stark von reinem Code, da implizites Wissen über Präferenzen, Reibungspunkte und Heuristiken primär als Daten und nicht als starre Regeln existiert.
Viele Agenten verbrauchen erhebliche Mengen an Input-Token, weil sie kontextbezogenes institutionelles Wissen bei jeder Ausführung neu erlernen müssen.
Evals fungieren als strukturierte Testfälle, die wie ein Software-Lebenszyklus behandelt werden können, um Modelle kontinuierlich zu verbessern.
Eine nächtliche Nutzung von Inferenzkapazitäten für Trainingsläufe ermöglicht es Organisationen, echtes kontinuierliches Lernen in den Modellgewichten umzusetzen.
타임라인
Die Zukunft KI-nativer Organisationen
Die rasante Entwicklung von KI-Technologien verschiebt den Fokus von einzelnen Agenten hin zur umfassenden Integration in den Enterprise-Maßstab. Prime Intellect erforscht dabei, wie Open-Source-Modelle ohne Weiteres für unternehmensspezifische Daten und Testumgebungen eingesetzt werden können. Ziel ist es, das institutionelle Wissen von Organisationen über die Zeit zu vervielfachen.
- Organisationen entwickeln sich rasch von einfachen Chatbots und Reasonern hin zu tiefgreifend integrierten Agenten.
- Prime Intellect entwickelt offene KI-Infrastrukturen und Tools zum Trainieren und Bereitstellen von Modellen.
- Open-Source-Modelle ermöglichen es Unternehmen, eigene Arbeitsabläufe und institutionelles Wissen direkt zu nutzen.
Implizites Wissen und die Grenzen des In-Context-L Lernens
Etablierte Unternehmen verfügen über ein enormes Reservoir an implizitem Wissen, das niemals explizit aufgeschrieben wird. Während starre Regeln als Code existieren, verbleiben Präferenzen, Heuristiken und reale Reibungspunkte in den Daten. Aktuelle Agenten müssen diesen Kontext bei jeder Ausführung neu verarbeiten, was den Token-Verbrauch in die Höhe treibt.
- Unternehmenswissen liegt oft implizit in E-Mails, Besprechungsnotizen und informellen Entscheidungswegen vor.
- Agenten arbeiten derzeit primär über primitivere In-Context-Lernmethoden und Skill-Dateien.
- Gecachter Input und die wiederholte Verarbeitung großer Input-Mengen bilden bei aktuellen Agentenkosten einen zentralen Engpass.
Kontinuierliches Training und Evals im Software-Lebenszyklus
Die Leistungsfähigkeit von Modellen steigt vor allem durch zielgerichtetes Training. Durch die Behandlung von Modellen als Codebasen mit integrierten Testfällen können Organisationen organisch wachsen. Gesammelte Traces aus der Produktion liefern die wesentlichen Assets, um automatisierte Evaluationen zu erstellen und Entscheidungsmodelle zu verfeinern.
- Modelle profitieren vor allem durch kontinuierliches Training statt durch rein optimierte Prompts.
- Testfälle und Evals bilden einen praktischen Startpunkt, um Modelle wie eine gesunde Codebasis zu pflegen.
- Agenten unterstützen Organisationen dabei, Traces zu sammeln und daraus robuste Evaluationen zu kuratieren.
Praktische Umsetzung und selbstverbessernde Schleifen
Individuelle Feedback-Schleifen über maßgeschneiderte Schnittstellen erlauben es Menschen, direktes Feedback als Label einzuspeisen. Dies umgeht Probleme wie Reward Hacking und verankert Präferenzen dauerhaft. Konkrete Praxisbeispiele wie maßgeschneiderte Wissensarbeitsmodelle und nächtliche Experimente zeigen, dass dieser Ansatz bereits heute realisierbar ist.
- Dynamische Widget-Karten ermöglichen ergonomische und präzise Rückmeldungen direkt durch menschliche Nutzer.
- Das Unternehmen Paper Instruments demonstriert den wirtschaftlichen Nutzen von maßgeschneidertem Modelltraining für Wissensarbeit.
- Nächtliche Trainingsläufe nutzen ungenutzte Inferenzkapazitäten für eine kontinuierliche Verbesserung der Modellgewichte.
설명
Agents relearn the same things every session because the knowledge that runs a company never gets written down. Will Brown of Prime Intellect makes the case for training models on your own traces, feedback and workflows, so they learn on the job the way human coworkers do. He covers evals as test cases, decision models and routing, and widget-style interfaces that turn your decisions into training data. He ends with nightly training runs and an example model trained for about $300K. 0:00 Intro 1:21 From chatbots to AI-native organizations 2:33 What Prime Intellect builds 3:45 The knowledge that never gets written down 5:43 Why agents relearn everything 7:25 What goes in context vs. in the weights 8:06 The game of telephone behind frontier training 11:15 Evals as test cases for your model 12:43 Routing and decision models 15:11 Interfaces that turn decisions into training data 17:27 A $300K model for knowledge work 18:35 Nightly training runs 19:19 The self-improving organization Will Brown, Prime Intellect: https://www.primeintellect.ai Join us in SF for the second annual AIE CODE summit: https://aie.codes our last flagship summit of 2026. Applications live now!