Die Open-Source-Alternative zu Copilot, zu der Developer wechseln (Tabby)

BBetter Stack
컴퓨터/소프트웨어창업/스타트업AI/미래기술

Transcript

00:00:00Wenn Sie gerade Copilot verwenden, trainiert Ihr Code vielleicht schon das Modell eines anderen.
00:00:04Man installiert Copilot, es funktioniert super und man macht weiter, aber Teile der Codebasis können tatsächlich
00:00:09Ihren Rechner verlassen.
00:00:10Das kann ein Problem sein.
00:00:12Das hier ist Tabby.
00:00:13Eine Open-Source-Alternative, die uns im Vergleich zu Programmen wie
00:00:17Copilot, Tab9 und Cursor das höchste Maß an Privatsphäre bietet.
00:00:20Wir erhalten die gleiche Geschwindigkeit, die gleiche Autovervollständigung, den gleichen Workflow, und unser Code verlässt nie
00:00:25unseren Rechner.
00:00:26Das ist im Grunde Tabby.
00:00:27Ich zeige Ihnen in den nächsten Minuten, wie man es einrichtet und zum Laufen bringt.
00:00:36Einfach ausgedrückt ist Tabby ein selbstgehosteter KI-Codierungsserver.
00:00:40Man führt es lokal aus, meistens mit Docker, wählt das gewünschte Modell aus und verbindet es dann
00:00:44mit seiner IDE.
00:00:45Das war's schon.
00:00:46Man erhält Code-Vervollständigungen in Echtzeit und einen kontextbezogenen Chat, genau wie man es erwartet.
00:00:50Doch der wahre Grund, warum es Entwickler interessiert, sind nicht nur die Funktionen, sondern die Kontrolle.
00:00:55Ihr Code bleibt ohne Abonnements in Ihrem Netzwerk und es funktioniert komplett offline.
00:01:01Es ist für Teams konzipiert, mit Funktionen wie SSO, RBAC und Audit-Logs, und es ist auf GitHub
00:01:05mit über 33.000 Sternen aus gutem Grund explodiert.
00:01:09Ehrlich gesagt spielt das alles keine Rolle, wenn es sich für Sie nicht gut anfühlt. Also überspringen wir das Ganze
00:01:13und springen direkt zur Demo.
00:01:15Wenn Ihnen solche Tools zur Beschleunigung Ihres Workflows gefallen, abonnieren Sie unbedingt
00:01:19diesen Kanal.
00:01:20Wir veröffentlichen ständig neue Videos.
00:01:22So sieht die Einrichtung in der Praxis aus.
00:01:24Man führt einen Docker-Befehl aus und Tabby läuft lokal.
00:01:28Dann installiert man die VS-Code-Erweiterung, verknüpft sie mit dem lokalen Server und ist fertig.
00:01:34Jetzt erhalten Sie mehrzeilige Vervollständigungen direkt in Ihrem Repo.
00:01:38Hier in Tabby kann ich nachsehen, welche Modelle ich verwende, und Sie sehen
00:01:42hier diese drei Modelle, die lokal ausgeführt werden.
00:01:45Kein Claude oder OpenAI, wohin Ihre Daten gesendet werden.
00:01:48In VS Code kann ich mit einer groben Funktion beginnen, und mit nur einem Tab-Druck vervollständigt
00:01:53Tabby das für mich.
00:01:55Ich kann es noch weiter treiben, indem ich im seitlichen Chat frage, um meinen aktuellen Code
00:02:00zu optimieren und zu erweitern.
00:02:01Es ist alles ziemlich einfach und unkompliziert.
00:02:03Ich kann Code markieren und bitten, ihn auf Performance zu refactoren oder Tests hinzuzufügen.
00:02:07Es antwortet sofort und versteht den Kontext Ihres Repos, nicht nur eine einzelne Datei.
00:02:12Ich kann sogar einen Kommentar einfügen, was ich bauen möchte, und man sieht, wie es hier ansetzt
00:02:16und es tatsächlich für mich erstellt.
00:02:19Auf Localhost ist Tabby immer noch mit allem in VS Code verbunden, sodass ich meine
00:02:23Code-Chats lesen, erweitern und Rückfragen stellen kann.
00:02:27Das wird alles direkt hier auf Localhost gespeichert.
00:02:30Keine Cloud, keine Daten verlassen Ihren Rechner, und es fühlt sich sehr wie Copilot an – außer, und
00:02:35das ist ein großes Außer: Uns gehört alles selbst.
00:02:37Alles klar.
00:02:38Ich habe die Demo kurz gehalten, weil es wirklich so einfach war, es zu starten und loszulegen.
00:02:43Sprechen wir nun darüber, warum das in unserem echten Workflow wichtig ist.
00:02:47Das eigentliche Problem mit Cloud-KI-Tools ist nicht, dass sie schlecht sind.
00:02:51Es ist der Kompromiss, den wir eingehen, der oft verborgen bleibt, oder?
00:02:53Bei Cloud-Tools wird Ihr Code möglicherweise zum Trainieren deren Modelle verwendet.
00:02:57Mit Tabby verlässt Ihr Code niemals Ihr eigenes Netzwerk.
00:03:01Bei Cloud-Tools zahlt man monatlich pro Entwickler – Tabby hingegen ist dauerhaft kostenlos.
00:03:05Nun ja, Cloud-Tools sind es nicht, oder?
00:03:07Wir bezahlen dafür. Das ist der Punkt.
00:03:08Das ist es, was wir bekommen.
00:03:09Und für Cloud-Tools brauchen wir außerdem eine Internetverbindung.
00:03:11Bei Tabby zahle ich nichts, es läuft offline, und das zeigt sich bei der richtigen Arbeit.
00:03:16Wir haben weniger Boilerplate und können unordentlichen Legacy-Code ohne Zögern refactoren.
00:03:22Wir können Frameworks schneller lernen, Tests und Dokumentationen generieren, ohne zwischen all diesen
00:03:26Tools hin- und herzuspringen.
00:03:27Das bedeutet weniger Zeitverschwendung, hoffentlich weniger Risiko und viel mehr Kontrolle darüber,
00:03:33wie wir arbeiten.
00:03:34Deshalb wenden sich viele datenschutzbewusste Entwickler oder Teams von diesen
00:03:38Cloud-First-Tools ab und nutzen Werkzeuge wie dieses.
00:03:41Vergleichen wir es nun mit anderen Optionen, denn das ist es, was Sie hören wollen, oder?
00:03:45Tabby ist am einfachsten.
00:03:47Es bietet tolle Qualität, fast kein Setup, lebt aber in der Cloud.
00:03:50Wir haben Continue Dev.
00:03:52Es ist flexibel, Local-First, aber eher ein Werkzeug für Poweruser.
00:03:56Tab9 ist eher auf Unternehmen ausgerichtet, und dann spreche ich natürlich gerade über Tabby,
00:04:01das selbstgehostet und kostenlos ist, höhere Privatsphäre bietet und für Teams gebaut ist.
00:04:05Aber der wahre Unterschied ist dieser: Tabby ist nicht nur ein Plugin, sondern ein dedizierter KI-Codierungsserver.
00:04:11Das ändert wirklich alles.
00:04:12Man erhält eine Copilot-ähnliche Erfahrung, die Flexibilität von Continue und Kontrollen auf Teamebene,
00:04:19für die andere Anbieter normalerweise Gebühren verlangen.
00:04:21Anstatt also den Zugang zur KI zu mieten, besitzen wir die Infrastruktur dahinter selbst.
00:04:26Seien wir mal ehrlich, oder?
00:04:28Die Leute lieben vieles, aber reicht "Open Source" wirklich aus, um
00:04:32den Wechsel zu wagen?
00:04:33Nun, das Setup geht schnell, meist nur ein Docker-Start, und dann fügt es sich in den
00:04:39Workflow ein.
00:04:40Man ist nicht an ein einziges Modell gebunden, man kann es frei wählen, und insgesamt fühlt es sich
00:04:44jetzt viel einsatzbereiter an als früher.
00:04:47Aber natürlich hat Open Source auch Nachteile.
00:04:50Die Qualität hängt vom gewählten Modell ab; kleinere Modelle sind nicht so leistungsstark,
00:04:55und die Hardware spielt eine Rolle.
00:04:56Wenn man eine flüssige Performance will, hilft eine GPU enorm.
00:04:59Ich lasse das alles auf einem Mac M4 Pro laufen und es fühlte sich ziemlich gut an.
00:05:04Das Setup ist immer noch aufwendiger als bei Cloud-Tools, also nicht ideal für Nicht-Techniker –
00:05:09aber Sie schauen sich das hier an.
00:05:10Ich nehme also an, dass Sie einer sind.
00:05:11Und natürlich muss man, wie bei jedem KI-Tool, den Code immer noch prüfen.
00:05:14Das bringt mich zu der Frage, die wir eigentlich beantwortet haben wollen.
00:05:17Lohnt sich die Nutzung?
00:05:19Ja, irgendwie schon, aber es hängt von ein paar Dingen ab.
00:05:22Sie sollten Tabby verwenden, wenn Ihnen Privatsphäre wichtig ist, Sie Abos hassen, in einem regulierten
00:05:27Umfeld arbeiten oder etwas brauchen, auf das sich Ihr ganzes Team verlassen kann.
00:05:30In diesen Fällen ist es eine hervorragende Wahl für den Workflow. Aber wenn
00:05:35Sie das absolut beste Modell mit null Setup und ohne Aufwand wollen – mal ehrlich – dann
00:05:40sind Cloud-Tools immer noch einfacher.
00:05:41Der Unterschied ist jetzt, dass sich das Abwägen geändert hat.
00:05:43Wir wählen nicht mehr zwischen einem smarten Cloud-Tool und einem schwachen lokalen Tool,
00:05:48sondern zwischen Bequemlichkeit wie bei Cursor oder starker KI zu eigenen Bedingungen.
00:05:54Und für viele Entwickler beginnt das immer mehr zu zählen.
00:05:58Tabby versucht nicht, die smarteste KI zu sein.
00:06:01Es versucht diejenige zu sein, der wir vielleicht tatsächlich vertrauen können.
00:06:04Ich habe einige Dokumente und Repos in der Beschreibung verlinkt.
00:06:06Wenn Ihnen Open Source und andere KI-Tools wie dieses gefallen, abonnieren Sie unbedingt
00:06:11den Better Stack Kanal.
00:06:12Wir sehen uns im nächsten Video.

Key Takeaway

Tabby bietet Entwicklern eine leistungsstarke, selbstgehostete Open-Source-Alternative zu Cloud-KI-Tools, die volle Kontrolle über den eigenen Quellcode bei gleichzeitig hoher Geschwindigkeit und Teamfähigkeit ermöglicht.

Highlights

Tabby ist eine Open-Source-Alternative zu GitHub Copilot, die den Fokus auf maximalen Datenschutz legt, da der Code den lokalen Rechner oder das eigene Netzwerk nie verlässt.

Die Installation erfolgt unkompliziert über Docker, wobei Nutzer die Freiheit haben, verschiedene KI-Modelle lokal auszuführen, ohne auf Cloud-Anbieter wie OpenAI angewiesen zu sein.

Das Tool bietet professionelle Funktionen wie Echtzeit-Code-Vervollständigung, einen kontextbezogenen Chat, SSO, RBAC und Audit-Logs für Teams.

Im Gegensatz zu kostenpflichtigen Cloud-Abos ist Tabby dauerhaft kostenlos und funktioniert vollständig offline, was die Abhängigkeit von einer Internetverbindung eliminiert.

Die Performance hängt stark von der lokalen Hardware ab, wobei die Nutzung einer GPU (z. B. Apple M4 Pro) für ein flüssiges Erlebnis empfohlen wird.

Timeline

Einführung in Tabby und das Datenschutzproblem

Der Sprecher problematisiert zu Beginn, dass gängige Tools wie GitHub Copilot den Code der Nutzer zum Training fremder Modelle verwenden könnten. Als Lösung wird Tabby vorgestellt, eine Open-Source-Alternative, die höchste Privatsphäre verspricht. Es wird betont, dass der Code niemals den eigenen Rechner verlässt, während Geschwindigkeit und Workflow vergleichbar bleiben. Tabby positioniert sich damit als sicherer Hafen für sensible Codebasen. In den ersten Minuten wird klargestellt, dass Datenschutz hier das zentrale Verkaufsargument gegenüber Copilot, Tab9 oder Cursor ist.

Funktionsweise und technische Einrichtung

Tabby wird als selbstgehosteter KI-Codierungsserver definiert, der primär über Docker lokal betrieben wird. Der Nutzer wählt ein Modell aus und verbindet dieses mit seiner bevorzugten IDE, um Echtzeit-Vervollständigungen zu erhalten. Ein entscheidender Vorteil für Unternehmen sind die integrierten Funktionen wie SSO (Single Sign-On) und rollenbasierte Zugriffskontrolle (RBAC). Das Projekt verzeichnet bereits über 33.000 Sterne auf GitHub, was seine wachsende Popularität unterstreicht. Der Fokus liegt hierbei auf der vollständigen Kontrolle über die Infrastruktur ohne versteckte Abonnements.

Live-Demo und Integration in VS Code

In der praktischen Demonstration wird gezeigt, wie einfach die VS-Code-Erweiterung mit dem lokalen Docker-Server verknüpft wird. Tabby unterstützt mehrzeilige Code-Vervollständigungen und einen seitlichen Chat für Refactoring oder die Generierung von Tests. Besonders hervorgehoben wird, dass der Chat den Kontext des gesamten Repositories versteht und nicht nur die geöffnete Datei. Da alles auf 'localhost' gespeichert wird, bleiben sämtliche Interaktionen privat und autark. Der Sprecher zeigt auf einem Mac M4 Pro, dass die Antwortzeiten trotz lokaler Ausführung unmittelbar erfolgen.

Vergleich: Cloud-Tools vs. Selbstgehostete Lösungen

Dieser Abschnitt beleuchtet die wirtschaftlichen und operativen Unterschiede zwischen Cloud-KI und Tabby. Während Cloud-Dienste monatliche Gebühren pro Entwickler verlangen und eine Internetverbindung voraussetzen, ist Tabby kostenlos und offline-fähig. Der Sprecher argumentiert, dass die Vermeidung von 'Boilerplate'-Code und das Refactoring von Legacy-Code ohne Sicherheitsbedenken möglich sind. Dies reduziert nicht nur Kosten, sondern minimiert auch rechtliche Risiken in regulierten Branchen. Entwickler gewinnen dadurch eine deutlich höhere Autonomie über ihre täglichen Arbeitswerkzeuge zurück.

Marktübersicht und Vor- sowie Nachteile

Tabby wird direkt mit Konkurrenten wie Cursor, Continue Dev und Tab9 verglichen, wobei Tabby als der dedizierte Server unter den Plugins hervorsticht. Ein wesentlicher Vorteil ist die freie Modellwahl, allerdings gibt der Sprecher zu bedenken, dass die Qualität stark von der Hardware und dem gewählten Modell abhängt. Kleinere lokale Modelle können oft nicht mit der Intelligenz von GPT-4 oder Claude mithalten, wenn keine starke GPU zur Verfügung steht. Zudem ist die Einrichtung für technisch weniger versierte Personen aufwendiger als ein einfacher Cloud-Login. Dennoch wird betont, dass Tabby für die Zielgruppe der Softwareentwickler sehr zugänglich ist.

Fazit: Für wen lohnt sich der Wechsel?

Abschließend wird die Frage nach der Sinnhaftigkeit eines Wechsels beantwortet: Tabby ist ideal für datenschutzbewusste Teams und Entwickler in regulierten Umfeldern. Wer hingegen das absolut leistungsfähigste Modell ohne jeglichen Wartungsaufwand sucht, ist laut Sprecher bei Cloud-Tools weiterhin besser aufgehoben. Die Entscheidung liegt nun zwischen der Bequemlichkeit der Cloud und der Souveränität einer lokalen Lösung. Tabby wird als das Tool beschrieben, dem man im KI-Zeitalter tatsächlich vertrauen kann. Das Video endet mit einem Verweis auf weiterführende Dokumentationen und einer Aufforderung zum Kanal-Abonnement.

Community Posts

View all posts