Written with AI assistance from the source video. The video is the authority.
Log in to leave a comment
No posts yet
Wenn Sie als Freiberufler monatlich 20 Dollar für KI-Dienste zahlen, verschwinden jährlich 240 Dollar. Sobald Sie Ihre Manuskripte in die Cloud hochladen, besteht das Risiko, dass Ihre Geschäftsideen als Trainingsdaten für den Dienstanbieter verwendet werden. Wenn Sie die KI direkt auf Ihrem eigenen Computer ausführen, betragen die Abokosten 0 Euro und Ihre Daten verlassen niemals das Gerät.
Laden Sie zunächst die Installationsdatei von der offiziellen Ollama-Website herunter und führen Sie sie aus. Installieren Sie anschließend Fluid Voice und aktivieren Sie in den Systemeinstellungen die Mikrofon- und Bedienungshilfen-Berechtigungen. Überprüfen Sie nun, ob die Spracherkennung auch bei ausgeschaltetem Internet funktioniert. Selbst im Flugzeug können Sie ohne Netzwerkverbindung mit einer Reaktionszeit von etwa 100 ms schreiben.
Öffnen Sie in den macOS-Systemeinstellungen den Bereich „Ton“ und wählen Sie den Tab „Eingabe“. Fixieren Sie den Eingangspegel des Mikrofons auf 70 %. Wenn der Ton zu leise ist, erfolgt keine Erkennung; ist er zu laut, entstehen Störgeräusche.
Legen Sie in den Fluid Voice-Einstellungen die rechte Wahltaste (Option) als globale Tastenkombination fest. Der „Hold-to-Speak“-Modus muss aktiviert sein. Die Sprache wird nur erkannt, solange die Taste gedrückt gehalten wird, und sobald Sie loslassen, wird der Text sofort eingefügt. Sie müssen nicht erst mit der Maus in den Editor klicken, sondern der Text erscheint direkt dort, wo sich der Cursor befindet.
Beim Diktieren schleichen sich zwangsläufig Füllwörter oder Tippfehler ein. Nutzen Sie das 3B-Modell llama3.2:3b, um die Grammatik zu korrigieren; innerhalb einer Sekunde erhalten Sie einen sauberen Text.
Erstellen Sie das folgende Skript, um den lokalen Server aufzurufen:
`python
import requests
import json
def clean_text(text):
url = "http://localhost:11434/api/generate"
payload = {
"model": "llama3.2:3b",
"prompt": f"다음 텍스트에서 문법 오류를 수정하고 필러를 제거해: {text}",
"stream": False
}
response = requests.post(url, json=payload)
return response.json()['response']
`
Durch die Ausführung dieses Codes sparen Sie täglich 30 Minuten Zeit, die sonst für die Korrektur von Tippfehlern und Formatierungen anfallen würden.
Wenn Sie auf Apple Silicon mehrere große Modelle gleichzeitig ausführen, wird der Arbeitsspeicher knapp und der Computer verlangsamt sich. Bei 16 GB RAM sollten Sie das Modell llama3.2:3b in einer 4-Bit-Quantisierung verwenden, damit das System flüssig läuft.
Erstellen Sie unter ~/Library/LaunchAgents/ eine Datei namens ollama_env.plist, um die Umgebungsvariablen zu fixieren. Wenn Sie OLLAMA_NUM_CTX auf 4096 setzen, können auch lange Texte problemlos verarbeitet werden. Erstellen Sie für den Modellspeicherpfad einen symbolischen Link auf eine externe SSD, anstatt das Systemlaufwerk zu nutzen. Auf diese Weise schaffen Sie eine Arbeitsumgebung für eine Person, die langfristig die Systemleistung erhält und gleichzeitig die Datensicherheit gewährleistet.
