Was genau ist PID?

PID steht für „Personalized ID Customization via Contrastive Alignment“ – zu Deutsch etwa „Personalisierte ID-Anpassung durch kontrastives Alignment“. Aber lass dich nicht von den Fachbegriffen abschrecken. Im Grunde bedeutet das, dass du personalisierte Bilder generieren kannst, ohne ein kompliziertes Training oder Feintuning durchzuführen. Es handelt sich um eine Technik, bei der ein Bild deiner Wahl genommen und in den Erstellungsprozess eines neuen Bildes integriert wird, sodass es personalisierte Elemente enthält, ohne dabei das ursprüngliche Verhalten des zugrunde liegenden Modells zu stören.

Hier wird ein Bild „eingespeist“ – in diesem Fall dein Gesicht – und das Modell baut dieses Bild mit Rauschen zu einem neuen, personalisierten Bild um. Der Clou: Das Ganze passiert extrem schnell und erfordert nur wenige Schritte. Im Gegensatz zu den herkömmlichen Diffusionsmethoden, bei denen viele Schritte und Rechenleistung erforderlich sind, schafft PID das Ganze in nur vier Schritten. Faszinierend, oder?

Schneller Überblick über die Technik:

• Keine Feineinstellungen notwendig: PID funktioniert tuningfrei.
• Personalisierung: Deine Gesichtsdaten werden in den Prozess integriert.
• Schnelle Ergebnisse: Vom Rauschen zum Bild in nur vier Schritten.
• Anpassungsfähig: Funktioniert mit verschiedenen Stilen und IDs.

Demo: Flux AI Bilder live erleben

Schauen wir uns das Ganze einmal live an. Stell dir vor, du hast ein Bild von dir selbst – vielleicht wie du ein Schild mit grün leuchtendem Text hältst. PID wird dieses Bild nehmen und ohne viel Aufwand in wenigen Sekunden eine personalisierte Version davon erstellen. Klingt wie Magie, aber es ist alles Technik! Auf Hugging Face gibt es dazu eine Demo, die zeigt, wie diese Bilder erstellt werden können.

Beispiel: Du gibst den Prompt ein, dass eine Frau ein Schild mit leuchtend grünem Text hält, und PID liefert dir prompt das gewünschte Ergebnis. Es ist erstaunlich, wie realistisch und schnell diese Bilder generiert werden. Ein weiteres Beispiel wäre, dass du eine Seiteansicht eines Gesichts möchtest, das ursprünglich frontal aufgenommen wurde – PID wandelt das Bild so um, dass es aussieht, als wäre es von der Seite aufgenommen worden.

Anleitung:

1. Besuche die Hugging Face Spaces und lade ein Bild hoch.
2. Gib den Prompt ein – z.B. „Frau hält Schild mit grün leuchtendem Text“.
3. Genieße das Ergebnis in nur wenigen Sekunden!

Ein lustiger Anwendungsfall könnte zum Beispiel sein, personalisierte Sticker zu erstellen. Du kannst ein Bild von dir oder jemand anderem hochladen und PID wandelt es in einen Sticker um – ohne LoRA oder langwierige Trainingsprozesse. Besonders interessant für SaaS-Produkte, die schnelle Ergebnisse brauchen.

Was steckt hinter der Technik?

Um zu verstehen, warum PID so revolutionär ist, lohnt es sich, einen Blick auf die technologische Grundlage zu werfen. Klassische Diffusionsmodelle benötigen ein Bild und Rauschen, um schrittweise das Endbild zu erzeugen. Bei PID wird dieses Prinzip beschleunigt und gleichzeitig die Möglichkeit geboten, personalisierte ID-Daten hinzuzufügen, ohne dass das ursprüngliche Modell verändert wird. Diese neue Text-to-Image-Technik (T2i) nutzt kontrastive Pfade, um die ID-Bilder (also z.B. dein Gesicht) auf verschiedene Stile anzuwenden, ohne das Modell zu überlasten.

PID hat zwei interessante Parameter:

• Timesteps zur ID-Einfügung: Dieser Parameter bestimmt, wann im Prozess die personalisierten Daten hinzugefügt werden.
• CFG-Scale: Dieser Parameter steuert, wie stark die personalisierten Daten das Endergebnis beeinflussen.

Das Besondere an dieser Technik ist, dass sie dir erlaubt, realistische Bilder zu erzeugen, ohne das Modell zu überladen oder die Originaldaten zu sehr zu verzerren. Natürlich gibt es immer noch Raum für Verbesserungen, aber das Potenzial ist bereits jetzt enorm.

Wo liegt das Potenzial?

Ein riesiger Anwendungsfall für PID könnte die schnelle Erstellung von Bildern für Social-Media-Plattformen oder E-Commerce-Websites sein. Stell dir vor, du hast ein Tool, bei dem Kunden einfach ihr Bild hochladen und binnen Sekunden einen personalisierten Avatar, Sticker oder ein Bild für ihre Werbung erhalten – und das ohne Wartezeit oder aufwendiges Training. Ob für Marketingzwecke, Sticker-Generierung oder personalisierte Produktbilder – die Einsatzmöglichkeiten sind fast unbegrenzt.

Anekdote: Als ich das erste Mal PID ausprobierte…

Ehrlich gesagt war ich zunächst skeptisch. Wie kann eine Technik so einfach und schnell Bilder erzeugen, die wirklich nach meinem Bild aussehen? Doch nach dem ersten Versuch war ich absolut begeistert. Ich lud ein einfaches Bild von mir hoch und innerhalb von Sekunden hatte ich ein personalisiertes Ergebnis – ein Bild, das mich frontal zeigte, aber im Stil eines Comics! Es war fast so, als hätte ich eine Art magischen Spiegel, der in Echtzeit meine Bilder bearbeitet.

Zusammenfassung:

• Hauptthese: PID revolutioniert die Bildpersonalisierung, indem es ein tuningfreies, schnelles System bietet, das ohne LoRA funktioniert.
• Methodik: Durch den Einsatz von Kontrastpfaden und Text-to-Image-Technologie kann PID personalisierte Bilder in nur wenigen Schritten erzeugen.
• Wichtigste Ergebnisse: PID ist besonders nützlich für Anwendungen, die keine ultra-realistischen Bilder, sondern stylisierte oder schnelle personalisierte Ergebnisse benötigen.
• Schlussfolgerungen: Mit PID können Entwickler und Kreative schnelle und einfache personalisierte Bilder erstellen, was das Potenzial für eine Vielzahl von Anwendungsfällen bietet.

Einfaches Zitat:

„Innovation bedeutet, neue Wege zu finden, die einfach und effizient sind.“ – EinfachAlex

FAQ:

Was ist PID?
PID steht für „Personalized ID Customization via Contrastive Alignment“ und ist eine Technik zur tuningfreien Bildpersonalisierung.

Wie funktioniert PID?
PID integriert ID-Daten, wie z.B. Gesichter, in den Bildgenerierungsprozess und ermöglicht es, personalisierte Bilder ohne langwieriges Feintuning zu erstellen.

Kann PID auch realistische Bilder erstellen?
Ja, PID kann realistische Bilder erstellen, aber es ist besonders nützlich für stilisierte oder nicht-fotorealistische Bilder.

Wo kann ich PID ausprobieren?
Du kannst PID auf Hugging Face Spaces ausprobieren, wo eine Demo-Version bereitsteht.

Meta-Tags und Keywords:

• Meta-Titel: Einfach PID: Personalisierte Flux AI Bilder in Sekundenschnelle erstellen
• Meta-Beschreibung: Erfahre, wie du mit PID personalisierte Bilder ohne LoRA oder Feineinstellungen erstellst. Schnelle und tuningfreie Bildgenerierung in nur wenigen Schritten!
• Keywords: PID, Personalisierte Bilder, Flux AI, tuningfrei, LoRA, Hugging Face, Bildgenerierung, Sticker, SaaS

Quellen:

• Hugging Face Spaces https://huggingface.co/spaces/yanze/PuLID-FLUX
• GitHub Repository https://github.com/ToTheBeginning/PuLID

Unterstütze mich gerne, damit ich weitere kostenlose Inhalte erstellen kann: paypal.me/einfachcodex Made by EinfachAlex – Kontakt: info@einfachalex.net

Bist du neugierig, wie du eigene KI-generierte Bilder erstellst und sie sogar mit deinem persönlichen Stil versehen kannst? Stell dir vor, du könntest nicht nur realistische Bilder generieren, sondern auch kreativ in jede Richtung experimentieren – von Comicfiguren bis hin zu detailreichen Kunstwerken. Und das alles mit deinem eigenen Flux und LoRa-Modell! Klingt spannend, oder?

In diesem Artikel zeige ich dir Schritt für Schritt, wie du Flux verwendest, LoRa trainierst und damit dein persönliches Modell entwickelst. Keine Sorge, auch wenn du noch nie mit KI-Modellen gearbeitet hast – ich führe dich durch den ganzen Prozess. Du wirst bald merken, dass es einfacher ist, als es klingt. Lass uns gemeinsam loslegen!

Was ist Flux und wie hilft dir LoRa?

Bevor wir in die Details gehen, fragst du dich vielleicht: Was genau sind Flux und LoRa, und warum sollte ich das überhaupt lernen? Gute Frage! Flux ist ein KI-Modell, das zur Erstellung von Bildern durch Text-Eingaben (Prompts) verwendet wird. Du gibst also einen Satz ein, und das Modell generiert ein Bild basierend auf deiner Beschreibung. LoRa (Low Rank Adaption) ist eine Technik, die es dir ermöglicht, dein Flux-Modell mit zusätzlichen Stilen zu kombinieren und anzupassen. Kurz gesagt: Du kannst Flux mit LoRa trainieren, um den generierten Bildern einen individuellen Touch zu geben.

Warum LoRa verwenden?

LoRa gibt dir die Kontrolle über den Stil deiner Bilder. Willst du wie ein Comic-Held aussehen? Oder vielleicht als CEO in einem schicken Büro posieren? Mit LoRa kannst du genau das tun! Durch das Training eigener LoRa-Modelle kannst du eine Vielzahl von künstlerischen oder realistischen Stilen auf deine Bilder anwenden. Der eigentliche Charme liegt darin, dass du deinen Stil kreieren und anwenden kannst, indem du ein Modell mit Bildern von dir trainierst.

Der erste Schritt: Flux verwenden

Der erste und einfachste Schritt, Flux zu nutzen, ist über Hugging Face. Dort findest du eine Vielzahl von vorgefertigten Flux-Modellen, die du mit wenigen Klicks verwenden kannst.

Hier ist eine einfache Anleitung, wie du startest:

1. Besuche Hugging Face und suche nach Flux-Modellen.
2. Erstelle einen Account, falls du noch keinen hast.
3. Wähle dein Modell und gib einen Prompt ein, um dein erstes Bild zu generieren.

Hier ist ein Beispiel für einen einfachen Prompt:

I am not real, Flux Laura realism has generated me.

Was dabei herauskommt, ist eine realistische Darstellung – perfekt, um ein Gefühl für die Möglichkeiten von Flux zu bekommen. Nun, das mag noch nicht alles sein, was du willst, aber wir stehen erst am Anfang.

Kleine Hindernisse: Was ist, wenn etwas nicht funktioniert?

Wie bei jeder Technologie läuft nicht immer alles auf Anhieb glatt. In meinen ersten Versuchen hat deutscher Text nicht perfekt funktioniert. Zum Beispiel gab es Fehler bei der Generierung von deutschen Zeichen, und einige Bilder sahen nicht so aus, wie ich es mir vorgestellt hatte.

Aber hey, keine Sorge! Solche kleinen Probleme lassen sich mit etwas Feinabstimmung beheben. Hier hilft die LoRa-Anpassung sehr, und ich werde dir bald zeigen, wie du diese Technik perfekt einsetzt.

LoRa: Dein Schlüssel zur Individualität

LoRa ist, wie bereits erwähnt, das Geheimnis, um deinen eigenen Stil zu kreieren und auf Bilder anzuwenden. Mit dieser Methode kannst du Bilder mit deinem eigenen Touch versehen und einzigartige Kunstwerke erschaffen.

Wie funktioniert LoRa?

Im Wesentlichen wird bei LoRa ein zusätzliches kleines Modell zu Flux hinzugefügt, das den Stil des Bildes anpasst. Du kannst also nicht nur den Bildinhalt beeinflussen, sondern auch, wie das Bild stilistisch aussehen soll.

Hier ist eine einfache Übersicht, wie LoRa funktioniert:

• Low Rank Adaption: Ein kleines Modell wird zu Flux hinzugefügt.
• Anpassbare Stile: Du kannst zwischen verschiedenen vordefinierten oder selbst erstellten Stilen wählen.
• Flexibilität: LoRa kann verwendet werden, um verschiedene Stile auf dieselben Bilder anzuwenden.

Ein tolles Beispiel: „Jarenart“, einer meiner Lieblingsstile, erzeugt einzigartige Kunstwerke mit comicartigen Details. Aber das ist nur einer von vielen. Die Auswahl ist riesig, und du kannst sogar deinen eigenen Stil trainieren!

Schritt-für-Schritt Anleitung: Dein eigenes LoRa trainieren

Jetzt kommt der spannende Teil: Das Training eines eigenen LoRa. Keine Panik – ich erkläre es Schritt für Schritt und mache es so einfach wie möglich. Egal, ob du Künstler oder Technikbegeisterter bist, dieser Prozess ist für jeden verständlich.

1. Starte auf Replicate oder Hugging Face

Du kannst LoRa ganz einfach auf Plattformen wie Replicate oder Hugging Face trainieren. Für diese Anleitung verwenden wir Replicate, da es besonders anfängerfreundlich ist.

• Erstelle zunächst einen Account auf Replicate.
• Klicke auf „Create New Model“ und gib dem Modell einen Namen (z. B. „My Flux LoRa“).

2. Lade deine Bilder hoch

Du brauchst mindestens 12 Bilder, um ein LoRa-Modell zu trainieren. Die Bilder sollten verschiedene Posen und Gesichtsausdrücke zeigen – je vielseitiger, desto besser! Hier ist ein kleiner Tipp: Benenne die Bilder sinnvoll, z. B. „photo_of_scottporter_1.png“. Das macht es einfacher, den Überblick zu behalten.

Hier ein Beispiel, wie deine Bildbenennung aussehen könnte:

photo_of_scottporter_1.png
photo_of_scottporter_2.png

3. Zip die Bilder und lade sie hoch

Nachdem du die Bilder vorbereitet hast, komprimiere sie zu einer ZIP-Datei. Lade diese dann auf Replicate hoch. Jetzt ist dein Modell fast bereit für das Training!

4. Wähle die Trainingsparameter

Hier ist eine Faustregel: 100 Schritte pro Bild funktionieren gut. Das heißt, bei 12 Bildern sind 1200 Schritte ideal, um ein LoRa-Modell zu trainieren. Du kannst auch mehr Schritte wählen, z. B. 2000, aber meiner Erfahrung nach verbessern sich die Ergebnisse nach 1500 Schritten kaum noch.

Hier ist ein Beispiel für deine Trainingseinstellungen:

steps: 1200
learning_rate: 0.0001

5. Dein Token und Repository einrichten

Um das Training zu starten, benötigst du einen Hugging Face Token. Erstelle diesen in deinen Account-Einstellungen. Hier ein Beispiel, wie du das machen kannst:

huggingface-cli token create --name "my_flux_LoRa"

Vergiss nicht, das Modell auf Public zu setzen, damit du es später auch verwenden kannst. Nachdem du den Token erstellt hast, füge ihn in deine Trainingskonfiguration ein, und schon kann es losgehen!

6. Starte das Training

Klicke jetzt auf „Start Training“ und lehne dich zurück. Der Trainingsprozess dauert etwa 20–30 Minuten, je nachdem, wie viele Schritte du ausgewählt hast. Und voila, nach dem Training kannst du dein eigenes Modell verwenden!

Prompts: So schreibst du bessere Bildbeschreibungen

Du hast jetzt dein eigenes LoRa-Modell – fantastisch! Aber wie bekommst du die besten Ergebnisse? Das Geheimnis liegt in den Prompts. Der Trick ist, einen klaren, präzisen Text einzugeben, der dem Modell genaue Anweisungen gibt.

Hier ein einfaches Beispiel:

Scott Porter as Superman, wearing a cape, flying over a city.

Mit diesem Prompt wird das Modell ein Bild von dir (oder Scott Porter, je nachdem) als Superman erstellen. Aber es gibt noch viel mehr, was du tun kannst! Um noch bessere Prompts zu erstellen, kannst du Tools wie Prompt Hero verwenden. Hier findest du eine Vielzahl von vorgefertigten Prompts für Flux.

Ein Beispiel für einen kreativeren Prompt:

A vintage photo of a bodybuilder in the 80s, wearing sunglasses and a tank top, with a retro gym in the background.

Indem du detaillierter wirst, gibst du dem Modell mehr Informationen, was zu besseren Ergebnissen führt. Spiele mit den Details des Charakters, der Szene und der Beleuchtung. Das bringt deine Bilder auf das nächste Level!

Fortgeschrittene Tipps: Feintuning und Optimierung

Nun, da du die Grundlagen beherrschst, hier noch einige fortgeschrittene Tipps, um deine Bildgenerierungen weiter zu verbessern.

1. LoRa-Gewicht anpassen: Du kannst das Gewicht des LoRa-Modells einstellen, um den Einfluss des Stils zu erhöhen oder zu verringern. Ein Wert von 0,8 ist oft ideal, aber experimentiere ruhig mit höheren Werten

, um zu sehen, was am besten für dich funktioniert.

2. Steps und CFG-Scale: Wenn du detailliertere Bilder möchtest, erhöhe die Anzahl der Schritte (Steps) und passe den CFG-Scale an. Ein Wert von 3,5 funktioniert in den meisten Fällen gut.
3. Vergleich verschiedener Modelle: Nutze Stable Diffusion XL oder ähnliche Modelle, um zu sehen, welches die besten Ergebnisse liefert. Jedes Modell hat seine eigenen Stärken und Schwächen.

Was ist mit der Hardware?

Eine Frage, die oft aufkommt, ist: Welche Hardware brauche ich für das Training? Nun, das hängt davon ab, wie viele Bilder du trainieren möchtest und wie schnell du Ergebnisse willst.

Wenn du auf Plattformen wie Google Colab trainierst, reicht oft der kostenlose Plan, aber für größere Modelle solltest du ein Abonnement in Betracht ziehen. Eine A100 GPU oder ein ähnliches Setup sorgt für schnellere und stabilere Ergebnisse.

Zusammenfassung: So wirst du zum KI-Künstler

• Hauptthese: Mit Flux und LoRa kannst du personalisierte und stilisierte Bilder generieren, indem du eigene Modelle trainierst.
• Methodik: Trainiere ein LoRa-Modell auf Plattformen wie Replicate, verwende mindestens 12 Bilder und optimiere deine Prompts für bessere Ergebnisse.
• Wichtigste Ergebnisse: Durch gezielte Parameter und sorgfältig ausgewählte Prompts erzielst du beeindruckende Bildgenerierungen.
• Schlussfolgerungen: LoRa gibt dir die Flexibilität und Kreativität, Bilder zu erstellen, die deinem persönlichen Stil entsprechen. Nutze die richtigen Tools und Techniken, um deine Bildkreationen zu verbessern.

Zitat: „Deine Kreativität ist nur durch deine Vorstellungskraft begrenzt – mit LoRa und Flux bringst du sie in die digitale Welt.“

FAQ:

1. Was ist Flux?
   Flux ist ein KI-Modell, das Text in Bilder umwandelt.
2. Wie funktioniert LoRa?
   LoRa passt den Stil von Bildern an, indem ein kleines Modell zu Flux hinzugefügt wird.
3. Wie trainiere ich mein eigenes Modell?
   Du kannst dein Modell auf Plattformen wie Replicate oder Hugging Face trainieren, indem du Bilder hochlädst und die Trainingsparameter einstellst.

Meta-Beschreibung:
Lerne, wie du mit Flux und LoRa atemberaubende Bilder generierst. In dieser Schritt-für-Schritt-Anleitung erfährst du, wie du eigene Modelle trainierst und kreative Prompts verwendest.

Keywords:
Flux, LoRa, KI-Bildgenerierung, Hugging Face, Replicate, KI-Training, Stable Diffusion, Prompts, künstliche Intelligenz

Lora Testen: https://huggingface.co/spaces/multimodalart/flux-lora-the-explorer

Trainieren: https://replicate.com/lucataco/ai-toolkit/train

Modell verwenden: https://replicate.com/lucataco/flux-dev-lora

Prompts: https://prompthero.com/stable-diffusion-man-prompts

Wem siehst du ähnlich ? https://starbyface.com/

Was ist Finetuning überhaupt?

Lass uns gleich mit der ersten Frage loslegen, die dir wahrscheinlich auf der Zunge brennt: Was ist Finetuning überhaupt? Stell dir vor, du hast einen intelligenten Assistenten, der zwar schon vieles weiß, aber noch nicht perfekt auf deine Bedürfnisse eingestellt ist. Genau hier kommt das Finetuning ins Spiel. Im Gegensatz zu dem, was viele glauben, geht es dabei nicht darum, der KI einfach nur eine Menge Daten zu geben, damit sie diese „auswendig lernt“. Stattdessen geht es darum, ein bereits gut trainiertes Modell, wie GPT-4, so anzupassen, dass es genau in der Art antwortet, wie du es möchtest.

Ein bisschen wie bei einem persönlichen Assistenten: Du gibst ihm Beispiele, wie du möchtest, dass er in bestimmten Situationen reagiert, und nach einer Weile weiß er genau, wie er sich verhalten soll. Klingt doch machbar, oder?

Ein weiteres Missverständnis beim Finetuning: Viele denken, dass man der KI einfach nur massenhaft Informationen füttert und sie diese dann „erinnert“. Falsch! Es geht vielmehr darum, spezifische Eingaben (Prompts) und die gewünschten Ausgaben (Antworten) zu kombinieren. Du gibst der KI quasi einen Maßanzug – und je besser die Beispiele, desto präziser passt er am Ende.

Voraussetzungen: Was brauchst du, um loszulegen?

Bevor wir in die Praxis eintauchen, lass uns kurz die Basics durchgehen, die du für das Finetuning brauchst. Keine Sorge, es ist wirklich nicht viel.

Was du brauchst:

1. Einen OpenAI-Account: Falls du noch keinen hast, einfach anmelden – dauert keine 5 Minuten.
2. Trainingsdaten im .jsonl-Format: Das klingt jetzt erstmal kompliziert, aber keine Sorge, ich erkläre dir gleich, wie du das erstellst.
3. Ein paar Cent für OpenAI-Nutzung: Aktuell kannst du bis zu 2.000.000 Token pro Tag kostenlos verwenden (bis zum 23. September 2024). Danach wird es aber auch nicht teuer – wir reden hier von Cent-Beträgen für die meisten Anfragen.

Falls du ein bisschen Guthaben brauchst, um nach dem Finetuning dein Modell zu testen, kannst du einfach ein Prepaid-Guthaben in deinen OpenAI-Account einzahlen. Das Training selbst ist in der Regel so günstig, dass du nur wenig investieren musst.

So erstellst du deine Trainingsdaten

Nun, da du vorbereitet bist, können wir loslegen. Jetzt wird’s spannend: Du brauchst Beispiele für das, was deine KI später können soll. Ich persönlich stelle mir das Ganze wie ein Spiel vor – je besser und spezifischer die Beispiele, desto besser wird dein Modell.

Stell dir vor, du möchtest ein Modell, das deinen humorvollen Schreibstil widerspiegelt. Wie würde es auf eine Frage nach der Hauptstadt von Frankreich reagieren? Vielleicht so:

{
  "messages": [
    {"role": "system", "content": "Marvin ist ein sarkastischer Chatbot."},
    {"role": "user", "content": "Was ist die Hauptstadt von Frankreich?"},
    {"role": "assistant", "content": "Paris, als ob das nicht sowieso jeder wüsste..."}
  ]
}

Dieses Beispiel zeigt, wie du deiner KI eine bestimmte Persönlichkeit oder einen Schreibstil beibringen kannst. Willst du, dass sie sarkastisch ist? Kein Problem! Dein Modell wird sich die Eingaben und Ausgaben merken und immer entsprechend reagieren. Klingt doch eigentlich ganz lustig, oder?

So erstellst du eine .jsonl-Datei für das Training

Die Trainingsdaten für dein Modell müssen in einem speziellen Format, dem sogenannten .jsonl-Format (JSON Lines), vorliegen. Stell dir das wie eine Art Textdatei vor, die mehrere dieser Eingabe-Ausgabe-Paare enthält. Du kannst die Daten manuell erstellen, indem du einfach diese Struktur wiederholst:

{
  "messages": [
    {"role": "system", "content": "..."},
    {"role": "user", "content": "..."},
    {"role": "assistant", "content": "..."}
  ]
}

Für jeden neuen Datensatz fügst du einfach ein weiteres Objekt hinzu und speicherst alles als .jsonl-Datei ab. Falls du kein Fan davon bist, das alles von Hand zu machen (wer ist das schon?), kannst du auch KI-Tools wie den Claude-Chatbot nutzen, um die Umwandlung deiner Textdatei in das richtige Format zu automatisieren.

Einen neuen Finetuning-Job bei OpenAI starten

Hast du alle deine Daten im .jsonl-Format vorbereitet? Super! Jetzt kannst du den Finetuning-Prozess bei OpenAI starten.

1. Gehe auf die OpenAI-Plattform und logge dich ein.
2. In der Seitenleiste wählst du „Finetuning“ aus.
3. Klicke auf „Create“ und folge den Anweisungen.

Hier wirst du zunächst das Basismodell auswählen – in den meisten Fällen ist das GPT-4 oder GPT-4 Mini. Du kannst auch zukünftige Modelle verwenden, wenn diese verfügbar sind.

Anschließend lädst du deine Trainingsdaten hoch und gibst deinem Modell einen passenden Namen oder ein Kürzel. Ich nenne mein Modell gern nach meiner Stimmung – also „SarkasmusBot 1.0“ oder „SupportBot Alex“. Lass deiner Kreativität freien Lauf!

Testen deines abgestimmten Modells

Jetzt kommt der spannende Teil: Dein Modell ist fertig trainiert, und du kannst es direkt im OpenAI-Playground testen. Das fühlt sich ein bisschen so an, als würdest du dein erstes selbstgebautes Auto fahren. Alles, was du tun musst, ist deinen Systemprompt und einige Eingaben einzugeben und zu sehen, wie deine KI reagiert.

Tipp: Vergleiche das abgestimmte Modell mit dem Basismodell, um zu sehen, wie gut deine Anpassungen funktioniert haben. Du kannst beide Varianten direkt nebeneinander testen und schauen, welche besser abschneidet.

Es gibt kaum etwas Befriedigenderes, als zu sehen, wie dein eigenes Modell genau so antwortet, wie du es programmiert hast. Manchmal sind die Ergebnisse sogar noch besser als erwartet!

Anwendungsbereiche: Für wen ist das Finetuning sinnvoll?

Jetzt fragst du dich vielleicht: „Für wen ist das Ganze eigentlich nützlich?“ Gute Frage! Finetuning ist besonders praktisch, wenn du sehr spezifische Anforderungen an dein Modell hast. Hier ein paar Beispiele:

• Unternehmen: Stell dir vor, du betreibst ein Kundensupport-System. Du kannst dein GPT-Modell so trainieren, dass es die gängigsten Kundenfragen exakt so beantwortet, wie du es möchtest – im richtigen Ton und Stil.
• Content-Erstellung: Du bist Blogger oder Content-Creator? Perfekt! Dein eigenes GPT-Modell könnte deinen Schreibstil perfekt nachahmen und dir helfen, schneller Inhalte zu erstellen.
• Schulungsunterlagen: Für Firmen, die Mitarbeiterschulungen durchführen, kannst du dein Modell darauf trainieren, komplexe interne Prozesse zu erklären oder sogar personalisierte Schulungsmaterialien zu generieren.

Der eigentliche Vorteil des Finetunings liegt darin, dass du Prompts deutlich verkürzen kannst. Anstatt immer wieder lange Anfragen zu schreiben, reicht später oft ein einfaches Stichwort, und deine KI weiß genau, was du von ihr erwartest. Das spart Zeit und vor allem Geld, da kürzere Prompts weniger Tokens verbrauchen.

Kosten und Nutzen: Lohnt sich das Finetuning?

Eines der ersten Themen, die immer aufkommen, sind natürlich die Kosten. Keine Sorge – das Training deines eigenen Modells ist aktuell bis zu 2.000.000 Token pro Tag kostenlos. Das reicht in den meisten Fällen mehr als aus.

Nach dem 23. September 2024 werden die Kosten wahrscheinlich wieder ansteigen, aber auch dann sprechen wir nur von Cent-Beträgen pro Anfrage. Hier ein kleiner Überblick über die aktuellen Kosten:

• GPT-4 Training: Ca. 50 Cent für 20.000 Tokens (entspricht etwa 14 Beispielen)
• Nutzung der API nach dem Training: Je nach Anzahl der Token, aber immer noch im Bereich von Cent-Beträgen

Der finanzielle Aufwand ist also minimal, insbesondere wenn man bedenkt, welche Vorteile du dadurch erhältst. Wenn du dein eigenes Modell in einem produktiven Umfeld nutzt, kann das

Einsparungen bei den laufenden Kosten bringen, weil du kürzere und effizientere Prompts verwenden kannst.

Fazit: Warum du jetzt mit Finetuning starten solltest

Ich hoffe, du bist jetzt genauso begeistert vom Thema Finetuning wie ich! Es ist nicht nur eine spannende Möglichkeit, deine eigene KI maßgeschneidert zu erstellen, sondern auch eine echte Chance, deine Produktivität und Effizienz zu steigern – sei es in einem Unternehmen oder für deine eigenen Projekte.

Egal, ob du einen sarkastischen Chatbot, einen informativen Assistenten oder eine spezifische Content-KI erstellen möchtest – mit Finetuning hast du alle Werkzeuge in der Hand, um etwas ganz Besonderes zu schaffen. Also, worauf wartest du? Hol dir deinen OpenAI-Account, erstelle ein paar Trainingsdaten und sieh selbst, wie leicht es sein kann, dein eigenes GPT-Modell zu erstellen.

Und wenn du mehr über das Thema erfahren möchtest, schau doch mal auf www.einfachalex.net vorbei. Dort gibt’s weitere nützliche Tipps, Anleitungen und Inspiration für dein nächstes Projekt!

Meta-Beschreibung:

Erstelle dein eigenes GPT-Modell mit OpenAI Finetuning. In diesem Tutorial zeige ich dir, wie du Schritt für Schritt vorgehst und dein Modell perfekt auf deine Bedürfnisse abstimmst.

Meta-Tags:

Finetuning, OpenAI, GPT-Modell, KI-Modell erstellen, AI Training, GPT-4, jsonl-Datei, eigene KI entwickeln, GPT anpassen

Keywords:

GPT-Modell erstellen, Finetuning OpenAI, eigenes GPT-Modell, jsonl-Datei erstellen, AI Training, GPT-4, OpenAI Modell anpassen, Finetuning Tutorial, KI-Modell anpassen, eigenes AI-Modell

Quellen:

• OpenAI Dokumentation

Dein Weg zum perfekten KI-Modell

Finetuning ist eine der spannendsten Möglichkeiten, die uns moderne KI-Technologie bietet. Mit ein wenig Aufwand kannst du ein KI-Modell erstellen, das genau auf deine Bedürfnisse

Prompt für das Erstellen der .jsonl-Datei aus reinem Text bei Claude:

Bitte konvertiere diesen Plaintext in ein JSONL-Format (JSON Lines). Jeder Eintrag sollte ein JSON-Objekt in einer einzigen Zeile sein. Das JSON-Objekt sollte ein 'messages' Array enthalten mit drei Objekten: eines für 'system', eines für 'user' und eines für 'assistant'. Jedes dieser Objekte sollte 'role' und 'content' Felder haben. Der 'content' des assistant-Objekts sollte die Vor- und Nachteile als Markdown-formatierter Text enthalten, mit '# [Thema]' als Überschrift der ersten Ebene und '## Vorteile' und '## Nachteile' als Überschriften der zweiten Ebene. Die Listeneinträge sollten mit Ziffern und Punkten formatiert sein. Bitte stelle sicher, dass jede JSON-Zeile gültig ist und keine Zeilenumbrüche innerhalb eines JSON-Objekts vorkommen.

Also, worauf wartest du noch? Probier es aus und teile deine Erfahrungen auf einfachalex.net. Wir sind gespannt, welche kreativen Lösungen du mit Finetuning entwickelst!

Quellen: https://platform.openai.com/docs/guides/fine-tuning

Kleine Schritte, große Wirkung: So lenkst du den Chatbot in die richtige Richtung.

Einfach(Basics des Prompt Engineering)

Bevor wir tiefer eintauchen, lass uns kurz klären, worum es hier überhaupt geht. Prompt Engineering ist die Kunst, Maschinen kluge Fragen zu stellen, damit sie uns nützliche Antworten geben. Klingt simpel, oder? Doch die Ergebnisse und Ausgaben von KI-Tools wie ChatGPT, Claude, oder Copilot hängen stark davon ab, wie wir fragen. Unsere Anweisungen, die sogenannten Prompts, bestimmen das Ergebnis.

Einfach(Warum Prompts so wichtig sind)

Ohne die richtigen Prompts bleibt die KI ein roher Diamant – jede Menge Potenzial, aber ohne den richtigen Schliff unbrauchbar. Stell dir vor, du möchtest einen Text, der präzise und klar ist, aber du fragst die KI nach einer allgemeinen Beschreibung. Was wirst du bekommen? Genau, einen vagen Text, der weit vom Ziel entfernt ist. Merke dir: Deine Fragen formen die Antworten.

Einfach(Die drei Arten von Prompts)

Es gibt drei Hauptkategorien, in die wir Prompts einteilen können:

1. Reduktive Prompts: Vereinfache und extrahiere.
2. Transformative Prompts: Passe an und formatiere neu.
3. Generative Prompts: Erzeuge Neues und Kreatives.

Diese drei Typen sind wie die Grundfarben des Prompt Engineerings. Kombiniert man sie geschickt, entstehen vielfältige Ergebnisse.

Einfach(Reduktive Prompts: Die Kunst des Vereinfachens)

Reduktive Prompts sind dafür da, Texte zu kürzen oder relevante Informationen herauszufiltern. Wenn du schon mal in einem 300-seitigen Bericht nach einem einzigen Datum gesucht hast, weißt du, wovon ich rede. Hier hilft uns die KI enorm.

Einfach(Wann du reduktive Prompts verwenden solltest)

Es gibt Momente, in denen du einfach keine Zeit hast, den ganzen Text zu lesen. In solchen Fällen sagst du der KI: „Fass mir das mal kurz zusammen.“ Genau das sind Reduktive Prompts. Egal, ob es um das Extrahieren von Daten, das Filtern von Informationen oder das Erstellen einer Zusammenfassung geht – die KI erledigt es für dich.

Merke dir: Wenn du schnell und präzise an Informationen kommen willst, sind reduktive Prompts dein Werkzeug der Wahl.

Einfach(Beispiele für reduktive Prompts)

Einfach(Zusammenfassungen erstellen)

Du hast einen langen Text, aber keine Zeit? Lass die KI das Wichtigste herausfiltern.

Erstelle eine strukturierte Zusammenfassung des folgenden Artikels über die Auswirkungen der künstlichen Intelligenz auf den Arbeitsmarkt. Die Zusammenfassung sollte die Hauptthese, Methodik, wichtigste Ergebnisse und Schlussfolgerungen abdecken. Beschränke die Zusammenfassung auf maximal 300 Wörter und verwende Stichpunkte für eine bessere Übersichtlichkeit.

Ein kleiner Tipp: Gib der KI so viele Details wie möglich, um ein optimales Ergebnis zu erzielen.

Einfach(Informationen extrahieren)

Wenn du spezifische Daten, Namen oder Orte suchst, lass die KI diese für dich herausfiltern.

Extrahiere aus dem folgenden Forschungsbericht alle erwähnten Technologien zur CO2-Reduktion sowie die damit verbundenen prozentualen Einsparungspotenziale. Stelle die Ergebnisse in einer übersichtlichen Liste dar.

Einfach(Texte filtern)

Manchmal willst du nur das Relevante behalten und den Rest ausblenden. Hier kommt das Filtern ins Spiel.

Filtere alle irrelevanten Informationen aus dem folgenden Text, sodass nur die wichtigsten Punkte übrig bleiben.

Denk mal logisch darüber nach: In der heutigen Informationsflut ist es ein Segen, nur das Wesentliche zu erhalten.

Einfach(Transformation Prompts: Die Kunst des Anpassens)

Während die Reduktion den Fokus auf das Wesentliche legt, geht es bei Transformations-Prompts um das Wie. Hierbei verändern wir den Stil, die Struktur oder den Zweck des Textes, ohne den Inhalt zu verlieren.

Einfach(Wann du transformative Prompts verwenden solltest)

Du hast einen Text, aber er passt nicht ganz zu deinem Zweck? Vielleicht willst du aus deinen Notizen eine professionelle Email machen oder einen komplizierten Fachtext in verständliche Sprache umwandeln. Transformations-Prompts sind dein Werkzeug der Wahl.

Einfach(Beispiele für transformative Prompts)

Einfach(Texte umformatieren)

Wenn du eine andere Darstellungsform brauchst, hilft die KI dabei, die Struktur zu ändern.

Formatiere diese Notizen in eine professionelle Email um. Verwende dafür folgende Struktur: Anwesende Personen, Besprochene Informationen, Aufgaben und nächste Schritte.

Einfach(Texte refactoren)

Willst du komplexe Inhalte für ein breiteres Publikum zugänglich machen? Kein Problem.

Erkläre das Konzept der Neuralen Netze in Bezug auf KI so, dass es ein Gymnasiast der 10. Klasse verstehen kann. Verwende Analogien aus dem Alltag, um die Idee zu veranschaulichen.

Merk dir: Die einfachste Formulierung ist oft die stärkste. Du musst keinen Nobelpreis gewinnen, um komplexe Ideen zu vermitteln.

Einfach(Texte umformulieren)

Wenn du die Art und Weise, wie etwas gesagt wird, ändern möchtest, ist dieser Prompt ideal.

Formuliere die folgende Email so um, dass sie die direkte Anrede vermeidet.

Einfach(Perspektivwechsel mit einem Chatbot)

Manchmal hilft es, die Dinge aus einer anderen Sicht zu sehen.

Wie würde ein Mitbewerber diese Produktbeschreibung und Marketingstrategie beurteilen? Welche Stärken und Schwächen würden sie sehen? Wie könnten sie darauf reagieren?

Ein Perspektivwechsel öffnet Türen zu neuen Einsichten und verhindert, dass du in eine Denkroutine verfällst.

Einfach(Generative Prompts: Die Kunst des Erschaffens)

Generative Prompts fordern die KI auf, Neues zu schaffen. Sei es ein erster Entwurf, eine Idee oder ein kreativer Output – hier zeigt die KI, was sie draufhat.

Einfach(Wann du generative Prompts verwenden solltest)

Wenn du vor einem leeren Blatt sitzt und die Ideen fehlen, wenn du Inspiration suchst oder wenn du eine erste Version eines Textes brauchst, dann sind generative Prompts das Richtige.

Einfach(Beispiele für generative Prompts)

Einfach(Entwürfe erstellen)

Lass die KI den ersten Schritt für dich machen.

Erstelle einen Entwurf für eine kurze Präsentation über die Vorteile von Künstlicher Intelligenz in der öffentlichen Verwaltung. Das Publikum besteht aus Mitarbeitenden aus unterschiedlichen Ämtern, mit einem grundlegenden technischen Verständnis. Die Sprache sollte freundlich, aber professionell sein, und anspruchsvolle Konzepte sollten nachvollziehbar und anhand von Beispielen aus dem Alltag erklärt werden.

Einfach(Planung und Pläne erstellen)

Planen ist oft der erste Schritt zum Erfolg. Warum also nicht die KI als Co-Pilot nutzen?

Erstelle einen detaillierten Projektplan für die Entwicklung und Einführung einer neuen Smartphone-App. Der Plan sollte Phasen wie Konzeptentwicklung, Design, Programmierung, Testing und Markteinführung umfassen, sowie geschätzte Zeiträume und benötigte Ressourcen für jede Phase.

Einfach(Brainstorming und Ideenfindung)

Lass die KI dir helfen, kreative Blockaden zu überwinden.

Gib mir fünf Ideen für interessante Blogartikel zum Thema Social Media Marketing.

Einfach(Texte erweitern oder weiterschreiben)

Hast du eine Schreibblockade? Kein Problem – die KI hilft dir weiter.

Erweitere den folgenden Absatz über die Vorteile von erneuerbaren Energien, indem du spezifische Beispiele für erfolgreiche Implementierungen in verschiedenen Ländern hinzufügst und auf die wirtschaftlichen Auswirkungen dieser Technologien eingehst. Verwende für den neuen Text denselben Stil, der bisher verwendet wurde.

Einfach(Simulationen und Rollenspiele mit Chatbots)

Trainiere deine Fähigkeiten in einer sicheren Umgebung.

Du bist ein geduldiger Excel-Tutor mit jahrelanger Erfahrung mit Microsoft-Produkten. Hilf mir dabei, Probleme in Excel zu lösen, indem du mich durch gezielte Rückfragen in die richtige Richtung lenkst und mich dabei unterstützt, die Lösung zu finden.

Was lernst du daraus? Ganz einfach…

Die Art und Weise, wie du mit einer KI interagierst, bestimmt den Wert, den du daraus ziehst. Merke dir: Die richtigen Fragen bringen die richtigen Antworten. Egal, ob du Informationen extrahieren, Texte anpassen oder kreative Inhalte erzeugen möchtest – mit den richtigen Prompts kannst du die Macht der KI voll ausschöpfen. Denk immer daran: Einfach.Machen. Wenn du es träumen kannst, kannst du es auch tun.

FAQs

1. Was sind Prompts?

Prompts sind die Anweisungen, die du einer KI gibst, um eine spezifische Aufgabe zu erledigen.

2. Warum sind Prompts wichtig?

Prompts bestimmen die Qualität und Relevanz der Ergebnisse, die du von einer KI erhältst.

3. Wie erstelle ich einen guten Prompt?

Ein guter Prompt ist präzise, gibt der KI klare Anweisungen und enthält alle notwendigen Informationen.

4. Was ist der Unterschied zwischen reduktiven, transformativen und generativen Prompts?

Reduktive Prompts vereinfachen Inhalte, transformative ändern die Darstellung, und generative erzeugen neue Inhalte.

5. Kann ich KI-Generierung ohne Angst vor Fehlern nutzen?

Die KI kann enorm helfen, aber eine manuelle Überprüfung ist immer notwendig, um die besten Ergebnisse zu gewährleisten.

Der Flipper Zero hat sich schnell zu einem beliebten Werkzeug für Hacker, Entwickler und Technikbegeisterte entwickelt. Dieses kleine, aber mächtige Gerät ist vollgepackt mit Funktionen, die es zu einem vielseitigen Begleiter machen. Egal, ob du Sicherheitslücken aufdecken, neue Funktionen programmieren oder einfach nur Spaß mit deinen Gadgets haben möchtest – der Flipper Zero bietet dir endlose Möglichkeiten.

In diesem Blogartikel werfen wir einen detaillierten Blick auf die wichtigsten GitHub-Repositories und Ressourcen für den Flipper Zero. Von der offiziellen Firmware bis hin zu benutzerdefinierten Lösungen und hilfreichen Tools – hier findest du alles, was du brauchst, um das Beste aus deinem Flipper Zero herauszuholen.

Flipper Zero: Was steckt dahinter?

Flipper Zero ist ein kleines Stück Hardware, das die Persönlichkeit eines cyber-dolphin (Cyber-Delfins) annimmt. Es kann mit digitalen Systemen interagieren und wächst mit dir, während du es benutzt. Egal, ob du Zugangskontrollsysteme, RFID, Funkprotokolle oder Hardware mit GPIO-Pins erkunden möchtest – Flipper Zero hat alles, was du brauchst.

Hauptmerkmale von Flipper Zero

• 1.4″ Monochrom-LCD-Display: 128×64 Pixel, ultra-niedriger Stromverbrauch, sonnenlichttauglich.
• Autonome Bedienung: Gesteuert mit einem 5-Tasten-D-Pad ohne zusätzliche Geräte wie Computer oder Smartphones.
• Verbindungen: USB und Bluetooth für mehr Kontrolle.
• Betriebssystem: Flipper Zero ist komplett autonom und seine Hauptfunktionen sind über das Hauptmenü zugänglich.

Anpassungsmöglichkeiten

Flipper Zero ist vollständig Open-Source und kann nach Belieben erweitert werden. Hier sind einige der beeindruckendsten Anpassungsoptionen:

GPIO-Pins

Mit GPIO-Pins kannst du Flipper Zero an verschiedene Hardware anschließen, um sie zu steuern, eigene Codes auszuführen und Debug-Nachrichten auf dem LCD anzuzeigen. Es kann auch als regulärer USB-zu-UART-, SPI-, I2C-Adapter verwendet werden.

Radiofrequenz-Plattform

Flipper Zero hat eine integrierte Multiband-Antenne und einen CC1101-Chip, was es zu einem leistungsstarken Transceiver mit einer Reichweite von bis zu 50 Metern macht. Es unterstützt verschiedene digitale Modulationen wie 2-FSK, 4-FSK, GFSK und MSK sowie OOK und flexible ASK-Formung.

RFID und NFC

Flipper Zero ist mit einem 125 kHz RFID-Modul und einem 13,56 MHz NFC-Modul ausgestattet, was es zu einem ultimativen RFID-Gerät macht. Du kannst sowohl niederfrequente als auch hochfrequente Tags lesen, schreiben und emulieren.

Infrarot-Transmitter und Empfänger

Mit dem Infrarot-Transmitter kann Flipper Zero Signale an Elektronikgeräte wie Fernseher, Klimaanlagen und Stereoanlagen senden. Es gibt eine ständig wachsende Bibliothek von IR-Signalen, die von der Flipper Zero-Community gepflegt wird. Der IR-Empfänger ermöglicht es dir, Signale zu empfangen und zu speichern, sodass du deine vorhandenen Fernbedienungen emulieren und mit der Community teilen kannst.

Technische Details

Flipper Zero hat eine robuste technische Ausstattung, die es zu einem vielseitigen Werkzeug macht:

• Microcontroller (MCU): STM32WB55RG
  • Anwendungsprozessor: ARM Cortex-M4 32-bit 64 MHz
  • Radioprozessor: ARM Cortex-M0+ 32-bit 32 MHz
• Speicher: 1024 KB Flash, 256 KB SRAM
• Display: 1.4″ Monochrom-LCD, 128×64 Pixel, ST7567 Controller
• Transceiver: CC1101
• Frequenzbänder: 315 MHz, 433 MHz, 868 MHz, 915 MHz (je nach Region)
• Batterie: 2100 mAh LiPo, bis zu 28 Tage Akkulaufzeit
• Größe und Gewicht: 100x40x25 mm, 102 g
• Materialien: PC, ABS, PMMA
• Betriebstemperatur: 0° bis 40°C

Anwendungen und Fallstudien

Zugangskontrollsysteme

Flipper Zero kann verschiedene Zugangskontrollsysteme erforschen, darunter niederfrequente und hochfrequente Proximity-Karten. Es kann Karten lesen, klonen und emulieren, was es zu einem mächtigen Werkzeug für Pentester macht.

IoT-Sensoren und -Geräte

Dank der integrierten Multiband-Antenne und des CC1101-Chips kann Flipper Zero mit einer Vielzahl von IoT-Geräten kommunizieren. Dies ermöglicht die Erkundung und Entwicklung von IoT-Projekten auf eine völlig neue Art und Weise.

Hardware-Debugging

Mit den GPIO-Pins und der Möglichkeit, verschiedene Protokolle wie SPI, UART und I2C zu unterstützen, ist Flipper Zero ideal für Hardware-Debugging und Firmware-Flashing. Du kannst es als SPI-Flash-Programmierer, AVR-ISP-Programmierer und OpenDAP verwenden.

Zukunftsaussichten und Community-Unterstützung

Die Zukunft von Flipper Zero sieht vielversprechend aus, dank seiner starken Community-Unterstützung und den kontinuierlichen Updates und Verbesserungen. Die offene Architektur ermöglicht es Nutzern, neue Funktionen und Verbesserungen zu entwickeln und mit anderen zu teilen.

Tipps zur Nutzung von Flipper Zero

Hier sind einige Tipps, um das Beste aus deinem Flipper Zero herauszuholen:

• Firmware-Updates regelmäßig durchführen: Halte dein Gerät auf dem neuesten Stand, um neue Funktionen und Verbesserungen zu nutzen.
• Community-Ressourcen nutzen: Besuche Foren und GitHub, um neue Projekte und Anwendungen zu entdecken.
• Eigene Anwendungen entwickeln: Nutze die Open-Source-Natur von Flipper Zero, um eigene Anwendungen und Erweiterungen zu erstellen.

Offizielles Firmware-Repository

Das Herzstück des Flipper Zero ist die Firmware. Die offizielle Firmware enthält den Quellcode, der das Gerät antreibt. Hier findest du regelmäßige Updates, Fehlerbehebungen und neue Funktionen, die dein Gerät auf dem neuesten Stand halten. Das Repository ist der zentrale Knotenpunkt für Beiträge aus der Community und den Download der neuesten Versionen.

Warum ist das offizielle Firmware-Repository wichtig?

• Zuverlässigkeit: Die offizielle Firmware wird regelmäßig aktualisiert und von den Entwicklern selbst gewartet, was eine hohe Zuverlässigkeit und Stabilität gewährleistet.
• Sicherheit: Durch regelmäßige Updates werden Sicherheitslücken geschlossen und neue Schutzmechanismen integriert.
• Community: Die offizielle Firmware profitiert von einer aktiven Community, die Bugs meldet, Verbesserungen vorschlägt und neue Features entwickelt.

Benutzerdefinierte Firmware

Während die offizielle Firmware großartig ist, gibt es mehrere benutzerdefinierte Versionen, die zusätzliche Funktionen und Anpassungen bieten. Diese sind besonders nützlich, wenn du spezialisierte Anwendungen oder erweiterte Fähigkeiten benötigst.

Unleashed Firmware

Die Unleashed Firmware erweitert die Möglichkeiten des Flipper Zero erheblich. Sie bietet Unterstützung für Rolling Codes, Community-Plugins und verschiedene Tweaks, die im offiziellen Repository nicht verfügbar sind.

RogueMaster Firmware

Die RogueMaster Firmware ist ein Fork der Unleashed-Firmware und enthält benutzerdefinierte Grafiken sowie experimentelle Funktionen. Wenn du gerne am neuesten Stand der Technik bastelst und keine Angst vor ein paar Bugs hast, ist dies die richtige Firmware für dich.

Xtreme Firmware

Die Xtreme Firmware bietet zusätzliche Modulerweiterungen und benutzerdefinierte Assets, die das Gerät noch vielseitiger machen. Diese Firmware ist ideal für Entwickler, die das volle Potenzial des Flipper Zero ausschöpfen möchten.

Nützliche Tools und Ressourcen

Neben den verschiedenen Firmware-Optionen gibt es zahlreiche andere Ressourcen, die dir helfen können, das Beste aus deinem Flipper Zero herauszuholen.

Awesome Flipper Zero

Das awesome-flipperzero Repository ist eine kuratierte Liste von Ressourcen, Anwendungen und Tutorials für den Flipper Zero. Hier findest du alles von Spielen wie Tetris und Flappy Bird bis hin zu Dienstprogrammen wie einem TOTP-Authenticator und verschiedenen Plugins.

FroggMaster’s Sammlung

FroggMaster/FlipperZero ist ein weiteres wertvolles Repository, das eine Vielzahl von Skripten, Anwendungen und Notizen für den Flipper Zero enthält. Diese Sammlung bietet zusätzliche Funktionen und Modifikationen, die dein Gerät noch leistungsfähiger machen.

Weitere Ressourcen

Abgesehen von den oben genannten gibt es noch viele weitere Ressourcen, die dir helfen können, deinen Flipper Zero optimal zu nutzen:

• Flipper Zero Unleashed Firmware: Enthält erweiterte Firmware mit verschiedenen Protokollen für Sub-GHz-Kommunikation, benutzerdefinierten Plugins und zusätzlichen Spielen.

Technische Aspekte und Implementierung

Um den Flipper Zero optimal zu nutzen, ist es wichtig, die technischen Details und die Implementierung der Firmware zu verstehen. Hier sind einige wichtige technische Aspekte:

Rolling Codes und Sub-GHz-Kommunikation

Ein herausragendes Merkmal der Unleashed Firmware ist die Unterstützung von Rolling Codes. Dies ist besonders nützlich für die Kommunikation mit modernen Funkschlössern und anderen Geräten, die fortgeschrittene Sicherheitsprotokolle verwenden.

Community-Plugins

Die benutzerdefinierte Firmware ermöglicht die Installation von Community-Plugins. Diese Plugins erweitern die Funktionalität des Flipper Zero erheblich und ermöglichen es dir, spezialisierte Aufgaben zu erledigen, die über die Standardfunktionen hinausgehen.

Benutzerdefinierte Grafiken

Die RogueMaster Firmware bietet die Möglichkeit, benutzerdefinierte Grafiken zu verwenden. Dies ist nicht nur ästhetisch ansprechend, sondern kann auch funktionale Vorteile bieten, indem wichtige Informationen klar und visuell ansprechend dargestellt werden.

Praktische Anwendungen und Beispiele

Der Flipper Zero ist ein unglaublich vielseitiges Werkzeug. Hier sind einige praktische Anwendungen, die dir zeigen, wie du das Gerät effektiv nutzen kannst:

Sicherheitsüberprüfungen

Der Flipper Zero kann verwendet werden, um Sicherheitslücken in drahtlosen Netzwerken zu identifizieren und zu testen. Mit den richtigen Tools und Skripten kannst du Schwachstellen aufdecken und Maßnahmen zur Verbesserung der Sicherheit ergreifen.

Programmierung und Entwicklung

Mit seiner Fähigkeit, benutzerdefinierte Firmware und Plugins zu unterstützen, ist der Flipper Zero ein hervorragendes Werkzeug für Entwickler. Du kannst eigene Anwendungen erstellen, die spezifische Funktionen bieten, die in der Standard-Firmware nicht verfügbar sind.

Hobby-Projekte

Der Flipper Zero eignet sich auch hervorragend für Hobby-Projekte. Egal, ob du an Automatisierungsprojekten arbeitest, neue Technologien erkunden oder einfach nur Spaß haben möchtest – der Flipper Zero bietet dir die Plattform, um deine Ideen in die Tat umzusetzen.

Zukunftsaussichten und Entwicklungen

Die Entwicklung des Flipper Zero ist ein fortlaufender Prozess. Hier sind einige zukünftige Entwicklungen, die du im Auge behalten solltest:

Erweiterte Firmware-Funktionen

Die Entwickler arbeiten ständig an neuen Funktionen und Verbesserungen für die Firmware. Zukünftige Updates könnten erweiterte Kommunikationsprotokolle, verbesserte Sicherheitsfunktionen und weitere Anpassungsoptionen bieten.

Community-Wachstum

Die Flipper Zero Community wächst stetig, und mit ihr die Anzahl der verfügbaren Ressourcen und Tools. Neue Mitglieder bringen frische Ideen und Perspektiven ein, die zur Weiterentwicklung des Geräts beitragen.

Integration neuer Technologien

Mit der fortschreitenden Technologieentwicklung wird der Flipper Zero in Zukunft möglicherweise Unterstützung für neue Kommunikationsprotokolle und Technologien bieten. Dies könnte die Vielseitigkeit und Einsatzmöglichkeiten des Geräts weiter erhöhen.

Fazit

Der Flipper Zero ist ein beeindruckendes Gerät mit einer Vielzahl von Anwendungsmöglichkeiten. Die GitHub-Repositories und Ressourcen, die wir in diesem Artikel vorgestellt haben, bieten dir alles, was du brauchst, um das Beste aus deinem Flipper Zero herauszuholen. Egal, ob du die offizielle Firmware verwendest oder dich für eine benutzerdefinierte Version entscheidest – die Möglichkeiten sind nahezu unbegrenzt.

FAQs

Was ist der Flipper Zero?

Der Flipper Zero ist ein vielseitiges Gerät, das für verschiedene Aufgaben wie Sicherheitsüberprüfungen, Programmierung und Hobby-Projekte verwendet werden kann.

Wo finde ich die offizielle Firmware für den Flipper Zero?

Die offizielle Firmware findest du im GitHub-Repository.

Was sind die Vorteile der Unleashed Firmware?

Die Unleashed Firmware bietet erweiterte Funktionen wie Unterstützung für Rolling Codes, Community-Plugins und verschiedene Tweaks.

Kann ich benutzerdefinierte Grafiken auf dem Flipper Zero verwenden?

Ja, die RogueMaster Firmware ermöglicht die Verwendung von benutzerdefinierten Grafiken.

Wie kann ich meinen Flipper Zero für Sicherheitsüberprüfungen verwenden?

Mit den richtigen Tools und Skripten kannst du den Flipper Zero verwenden, um Sicherheitslücken in drahtlosen Netzwerken zu identifizieren und zu testen.

Zitat des Tages

„Technologie sollte nicht nur nützlich, sondern auch unterhaltsam sein.“ – EinfachAlex

Quellen

• Offizielle Firmware für Flipper Zero
• Unleashed Firmware
• RogueMaster Firmware
• Xtreme Firmware
• [Awesome Flipper Zero](https://github.com/djsime1/awesome-flipperzero)
• FroggMaster’s Sammlung

Einführung

Mistral AI ist bekannt für seine fortschrittlichen Sprachmodelle, die in vielen Bereichen Anwendung finden. Mit der Veröffentlichung von Mistral-7B-v0.3 und Mistral-7B-Instruct-v0.3 bringt das Unternehmen seine Modelle auf das nächste Level. Die neuen Versionen bieten eine erweiterte Wortschatzunterstützung und die Fähigkeit, externe Funktionen zu nutzen, was die Integration in verschiedene Anwendungen erleichtert. In diesem Artikel werde ich dir einen detaillierten Überblick über die neuen Funktionen und die Anwendungsmöglichkeiten der Modelle geben.

Unterschiede zwischen Mistral-7B und Mistral-7B-Instruct

Beide Modelle verfügen über die gleiche Intelligenz, jedoch ist das Mistral-7B-Instruct-Modell darauf optimiert, Anweisungen zu folgen. Dies ermöglicht es, Aufgaben und Fragen natürlicher zu beantworten. Das Basismodell hingegen besitzt diese Fähigkeit nicht.

Was ist neu?

Verbesserungen im Überblick

Das Mistral-7B-v0.3-Modell bietet im Vergleich zu seinen Vorgängern signifikante Verbesserungen. Dazu gehört ein erweiterter Wortschatz und die Unterstützung des v3 Tokenizers, was das Sprachverständnis und die Textgenerierung verbessert. Die Möglichkeit, externe Funktionen aufzurufen, eröffnet viele neue Integrationsmöglichkeiten.

Änderungen im Mistral-7B-v0.3-Instruct gegenüber Mistral-7B-v0.2-Instruct:

• Erweiterter Wortschatz auf 32.768 Tokens
• Unterstützung des v3 Tokenizers
• Unterstützung für Funktionsaufrufe

Änderungen im Mistral-7B-v0.3 gegenüber Mistral-7B-v0.2:

• Erweiterter Wortschatz auf 32.768 Tokens

Erweiterter Wortschatz

Eine der wichtigsten Verbesserungen in der neuesten Version ist der erweiterte Wortschatz. Das Modell unterstützt nun 32.768 Tokens, was eine erhebliche Steigerung gegenüber der vorherigen Version darstellt. Dieser erweiterte Wortschatz ermöglicht es Mistral-7B-Instruct-v0.3, eine größere Vielfalt an Wörtern und Phrasen zu verstehen und zu generieren, wodurch komplexere und vielfältigere Sprachaufgaben bewältigt werden können.

Unterstützung für den v3 Tokenizer

Eine weitere bemerkenswerte Neuerung ist die Unterstützung für den v3 Tokenizer. Tokenisierung ist ein entscheidender Schritt in der natürlichen Sprachverarbeitung, bei dem Text in kleinere Einheiten, sogenannte Tokens, zerlegt wird. Der v3 Tokenizer bietet verbesserte Leistung und Kompatibilität, was sicherstellt, dass das Modell den Eingabetext effizienter verarbeiten und verstehen kann.

Funktionsaufruf-Fähigkeit

Die vielleicht spannendste Funktion des Mistral-7B-Instruct-v0.3 ist die Unterstützung für Funktionsaufrufe. Dies bedeutet, dass das Modell nun mit externen Funktionen und APIs interagieren kann, was seine Fähigkeiten erheblich erweitert. Durch die Nutzung von Funktionsaufrufen können Entwickler das Modell in verschiedene Anwendungen integrieren, wodurch es Aufgaben weit über die einfache Textgenerierung hinaus ausführen kann.

Zugang zu Mistral-7B-Instruct-v0.3

Es gibt verschiedene Methoden, um die Mistral-Modelle zu installieren und zu nutzen. Im Folgenden werde ich einige der beliebtesten Optionen vorstellen.

Option 1: ChatLabs

ChatLabs ist ein All-in-One-GenAI-Playground, der Zugang zu über 30 der besten KI-Modelle bietet. ChatLabs macht es einfach, Mistral-7B-v0.3, Mistral-7B-Instruct-v0.3 und viele andere Modelle zu verwenden.

So nutzt du ChatLabs:

1. Besuche die ChatLabs-Website und logge dich ein.
2. Wähle dein Modell: Klicke auf das Dropdown-Menü oben rechts und wähle das Mistral 7B-Modell.
3. Nutze die Power der Modelle: Beginne mit der Nutzung des ausgewählten Modells.

Mit einem ChatLabs Pro-Konto erhältst du Zugang zu Modellen wie Gemini 1.5 Pro, GPT-4 Turbo, Meta AI LLaMA 3, Opus Claude 3 und vielen mehr. Zudem kannst du im Web suchen, Bilder erstellen, die Prompt-Bibliothek erkunden und benutzerdefinierte KI-Assistenten bauen. Eine praktische Split-Screen-Funktion ermöglicht es dir, zwei Modelle gleichzeitig zu verwenden und zu vergleichen.

Option 2: Mistral-Inference auf Hugging Face

Wenn du Zugang zu Mistral-7B v0.3 möchtest, kannst du die offizielle mistral_inference-Bibliothek verwenden, die eine bequeme Option darstellt.

Installation von Hugging Face:

pip install mistral_inference

Download von Hugging Face:

from huggingface_hub import snapshot_download
from pathlib import Path

# Definiere den Pfad zum Speichern des Modells
mistral_models_path = Path.home().joinpath('mistral_models', '7B-Instruct-v0.3')
mistral_models_path.mkdir(parents=True, exist_ok=True)

# Lade das Modell herunter
snapshot_download(repo_id="mistralai/Mistral-7B-Instruct-v0.3",
                  allow_patterns=["params.json", "consolidated.safetensors", "tokenizer.model.v3"],
                  local_dir=mistral_models_path)

Mehr Informationen dazu findest du auf der Hugging Face Website.

Option 3: OLLaMA

OLLaMA ist eine Open-Source-Bibliothek, die die Nutzung großer Sprachmodelle erleichtert. Sie bietet eine einheitliche Schnittstelle für Modelle wie GPT-4, LLaMA und T5, was die Bedienung vereinfacht.

Wichtige Funktionen von OLLaMA:

• Einheitliche Schnittstelle: Bietet eine konsistente und benutzerfreundliche Schnittstelle für verschiedene Modelle.
• Modellkompatibilität: Unterstützt eine Vielzahl beliebter Sprachmodelle, was Entwicklern die nötige Flexibilität gibt.
• Vereinfachtes Modell-Loading: Streamlined den Prozess des Ladens und Initialisierens von Modellen, was Zeit und Mühe spart.

Nutzung von OLLaMA:

pip install ollama

Lade das benötigte Modell:

from ollama import OLLaMA

model = OLLaMA("gpt-3")

prompt = "Was ist Künstliche Intelligenz?"
response = model.generate(prompt)
print(response)

Mehr Informationen zu OLLaMA findest du auf deren GitHub-Seite.

Option 4: LM Studio

LM Studio ist eine weitere hervorragende Plattform für die Arbeit mit großen Sprachmodellen. Sie bietet eine benutzerfreundliche Oberfläche und Funktionen wie Feinabstimmung, Prompt-Engineering und Modellauswertung.

Wichtige Funktionen von LM Studio:

• Benutzerfreundliche Oberfläche: Bietet eine intuitive webbasierte Oberfläche, die für Nutzer mit unterschiedlichem technischen Hintergrund zugänglich ist.
• Feinabstimmung: Ermöglicht Nutzern die Feinabstimmung von Modellen auf ihren Datensätzen für spezifische Aufgaben.
• Prompt-Engineering: Hilft, effektive Prompts zu entwerfen, um die Ausgabequalität des Modells zu verbessern.
• Modellauswertung: Bietet integrierte Metriken und Visualisierungen zur Bewertung der Modellleistung.

Nutzung von LM Studio:

1. Melde dich auf der LM Studio-Website an.
2. Lade LM Studio für dein Gerät herunter.
3. Erstelle ein neues Projekt und wähle ein Sprachmodell.
4. Lade deinen Datensatz zur Feinabstimmung hoch oder nutze die bereitgestellten Datensätze.
5. Konfiguriere die Modelleinstellungen wie die Anzahl der Epochen, Batch-Größe und Lernrate.
6. Trainiere das Modell und bewerte seine Leistung mit den bereitgestellten Tools.
7. Nutze das trainierte Modell für verschiedene Aufgaben wie Textgenerierung und Beantwortung von Fragen.

Während mistral_inference speziell für Mistral-Modelle entwickelt wurde, bieten OLLaMA und LM Studio mehr Flexibilität in Bezug auf die Modellauswahl und Anpassungsmöglichkeiten. Entwickler können das beste Tool basierend auf Benutzerfreundlichkeit, Modellkompatibilität, erforderlichen Funktionen und Leistungsanforderungen auswählen.

Fazit

Mistral-7B-Instruct-v0.3 stellt einen bedeutenden Fortschritt bei großen Sprachmodellen dar. Mit seinem erweiterten Wortschatz, der Unterstützung des v3 Tokenizers und der Fähigkeit, Funktionen aufzurufen, bietet es verbesserte Leistung und Vielseitigkeit. Entwickler haben mehrere Optionen, um Mistral-7B-Instruct-v0.3 zu nutzen, sei es über die mistral_inference-Bibliothek oder flexible Alternativen wie ChatLabs, OLLaMA und LM Studio. Durch die Berücksichtigung von Benutzerfreundlichkeit, Kompatibilität, Funktionen und Leistung können Entwickler das beste Tool für ihre Projekte auswählen.

Zitat des Tages

„Die besten Lösungen entstehen durch Zusammenarbeit und Innovation.“ – Alex

FAQs

Was sind die Hauptunterschiede zwischen Mistral-7B und Mistral-7B-Instruct?

• Das Mistral-7B-Instruct-Modell ist darauf optimiert, Anweisungen zu folgen und Aufgaben natürlicher zu erledigen, während das Basismodell diese Fähigkeit nicht besitzt.

Welche neuen Funktionen bietet Mistral-7B-Instruct-v0.3?

• Das Modell unterstützt jetzt einen erweiterten Wortschatz von 32.768 Tokens, den v3 Tokenizer und die Fähigkeit, externe Funktionen aufzurufen.

Wie kann ich Mistral-7B-Instruct-v0.3 verwenden?

• Es gibt mehrere Methoden zur Nutzung des Modells, einschließlich ChatLabs, Hugging Face, OLLaMA und LM Studio.

Warum ist die Unterstützung des v3 Tokenizers wichtig?

• Der v3 Tokenizer bietet verbesserte Leistung und Kompatibilität, was die Effizienz bei der Verarbeitung und dem Verständnis von Eingabetexten erhöht.

Welche Vorteile bietet die Funktionsaufruf-Fähigkeit?

• Durch die Unterstützung von Funktionsaufrufen kann das Modell mit externen APIs interagieren und seine Fähigkeiten erheblich erweitern, was die Integration in verschiedene Anwendungen erleichtert.

Wo finde ich weitere Informationen zu Mistral-7B-Instruct-v0.3?

• Weitere Informationen findest du in der offiziellen Dokumentation von Mistral AI und den Repositories auf Hugging Face.

Teste den Chat mit Mistral

Was ist ElevenLabs?

ElevenLabs ist eine bahnbrechende Plattform, die es ermöglicht, mit Hilfe von KI-generierten Stimmen hochwertige Voiceovers zu erstellen. Egal, ob ihr für YouTube-Videos, Podcasts oder andere Medieninhalte eine Stimme benötigt – ElevenLabs hat die Lösung. Die Plattform bietet verschiedene Abo-Modelle, darunter auch eine kostenlose Variante, die euch erlaubt, die Technologie auszuprobieren, bevor ihr in eine umfangreichere Lizenz investiert.

Wie funktioniert es?

1. Registrierung und Anmeldung: Zuerst müsst ihr euch bei ElevenLabs registrieren. Der Link dazu findet sich in der Videobeschreibung des ursprünglichen Beitrags. Die Registrierung ist einfach und auch in der kostenlosen Version könnt ihr schon viel erreichen.
2. Text vorbereiten: Nach der Anmeldung könnt ihr sofort loslegen. Ihr braucht lediglich einen Text, den ihr einsprechen lassen möchtet. Einfach den Text eingeben, und schon kann es losgehen.
3. Stimme und Einstellungen wählen: Bei ElevenLabs könnt ihr verschiedene Stimmen auswählen oder sogar eigene Stimmen generieren. Über Schieberegler lassen sich die Stabilität und Klarheit der Stimme einstellen, um das bestmögliche Ergebnis zu erzielen.
4. Sprachsynthese: Nachdem ihr die Einstellungen angepasst habt, könnt ihr die Sprachsynthese starten. Mit einem Klick auf ‚Generieren‘ wird euer Text in eine klare und fließende Sprache umgewandelt.

Warum ist ElevenLabs eine Revolution?

Die KI-gestützte Technologie von ElevenLabs spart nicht nur Kosten, sondern ermöglicht auch eine schnelle Produktion von qualitativ hochwertigen Voiceovers. Dies ist eine revolutionäre Entwicklung, besonders für Content-Creator, die früher auf teure Sprecher oder Freelancer angewiesen waren.

Für wen eignet sich ElevenLabs?

• YouTuber: Ideal für die Erstellung von automatisierten Videoinhalten.
• Podcaster: Perfekt, um eure Shows mit professionellen Voiceovers zu bereichern.
• Marketing-Profis: Erstellt Werbematerial mit ansprechenden Voiceovers, ohne externe Sprecher engagieren zu müssen.

Prompting – ElevenLabs

Pausen einlegen wie ein Profi

Habt ihr euch jemals gefragt, wie man die Sprechgeschwindigkeit einer KI beeinflussen kann? Hier kommt die Magie der Pausen ins Spiel! Durch die Verwendung der Syntax <break time="1.5s" /> könnt ihr eine präzise Pause in der Sprachausgabe erzeugen. Dies ist keine einfache Stille, sondern eine programmierte Pause, die der KI hilft, wie ein echter Mensch zu klingen. Interessant, oder?

Alternative Pausen-Tricks

Neben der Standardmethode gibt es auch kreativere Ansätze wie das Einfügen von Gedankenstrichen — manchmal sogar doppelt für längere Pausen. Oder wie wäre es mit einem gedehnten „I… yeah, I guess so“, um Unsicherheit auszudrücken? Diese kleinen Tricks können einen großen Unterschied machen!

Aussprache nach Maß

Jetzt wird’s technisch! Die richtige Aussprache ist entscheidend, besonders bei Namen oder Fachbegriffen. ElevenLabs nutzt das International Phonetic Alphabet (IPA) und CMU Arpabet für die präzise Ausspracheanweisung. Zum Beispiel könnt ihr das Wort „actually“ als <phoneme alphabet="ipa" ph="ˈæktʃuəli">actually</phoneme> formatieren, um genau die gewünschte Aussprache zu erzielen.

Betonung verstehen

Ein weiterer wichtiger Aspekt ist die Betonung innerhalb von mehrsilbigen Wörtern. Ein falsch betontes Wort kann die Bedeutung komplett verändern. Nehmen wir das Wort „talon“. Die korrekte Schreibweise in CMU Arpabet wäre <phoneme alphabet="cmu-arpabet" ph="T AE1 L AH0 N">talon</phoneme>, um die Betonung richtig zu platzieren.

Emotionen gezielt einsetzen

Möchtet ihr, dass eure KI spezifische Emotionen ausdrückt? Kein Problem! Mit Stiltechniken, die aus der Buchwelt entlehnt sind, könnt ihr eure KI dazu bringen, Verwirrung, Ärger oder Freude auszudrücken. Ein Beispiel: „Don’t test me!“ könnte als wütend interpretiert werden, wenn ihr es so formuliert: <emotion anger="high">Don’t test me!</emotion>.

Das Tempo anpassen

Das richtige Tempo ist für das Verständnis entscheidend. Eine Technik, um das Tempo zu kontrollieren, ist, die KI wie einen Buchtext sprechen zu lassen. Langsame und bedächtige Satzstrukturen helfen, das Tempo zu drosseln und die Sprachausgabe angenehmer zu gestalten.

Inspirierendes Zitat

„Die Kunst der Kommunikation ist die Sprache der Führung.“ – James Humes

FAQs

1. Ist ElevenLabs wirklich kostenlos nutzbar? Ja, es gibt eine kostenlose Version, die euch erlaubt, die Grundfunktionen mit einigen Einschränkungen zu nutzen.

2. Kann ich meine eigenen Stimmen mit ElevenLabs erstellen? Absolut! Ihr könnt eigene Stimmen generieren und diese an eure spezifischen Bedürfnisse anpassen.

3. Wie viele Zeichen kann ich in der kostenlosen Version einsprechen lassen? In der kostenlosen Version seid ihr auf 10.000 Zeichen pro Monat limitiert.

4. Kann ich die mit ElevenLabs erstellten Voiceovers kommerziell nutzen? Ja, aber für kommerzielle Zwecke ist eine entsprechende Lizenz erforderlich.

5. Unterstützt ElevenLabs auch andere Sprachen als Deutsch? Ja, ElevenLabs unterstützt mehrere Sprachen, einschließlich einer multilingualen Option, die ihr für verschiedene Projekte einsetzen könnt.

In einem informativen YouTube-Video mit dem Titel „LLaMA2 for Multilingual Fine Tuning?” wird diese Thematik ausführlich behandelt. Das Video erklärt die Bedeutung des richtigen Tokenizers und wie er die Leistung mehrsprachiger Modelle beeinflusst.

Einleitung

Das Feintuning von mehrsprachigen Modellen ist ein komplexer Prozess, der eine sorgfältige Auswahl und Konfiguration der eingesetzten Tools erfordert. Eine zentrale Komponente dabei ist der Tokenizer. In diesem Artikel erkläre ich Dir, warum der Tokenizer so wichtig ist und wie Du den richtigen für Deine Bedürfnisse auswählst.

Die Grundlagen des Mehrsprachigen Feintunings

Im Video bekommst Du eine grundlegende Einführung ins mehrsprachige Feintuning. Hier werden zentrale Fragen beantwortet: Wie können Modelle für verschiedene Sprachen optimiert werden? Welche Rolle spielt der Tokenizer in diesem Prozess?

Der Tokenizer ist die Brücke zwischen dem menschlichen Text und den numerischen Werten, die von KI-Modellen verarbeitet werden. Ein guter Tokenizer sorgt dafür, dass der Text effektiv in „Tokens“ zerlegt wird, die das Modell dann verarbeiten kann.

Untersuchung des LLaMA2-Modells und seiner Tokenizer

Das LLaMA2-Modell wird im Video genauer unter die Lupe genommen. Eine wichtige Erkenntnis ist, dass der LLaMA2-Tokenizer für viele europäische Sprachen gut funktioniert, da diese Sprachen oft romanische Zeichen verwenden. Bei nicht-romanischen Zeichen, wie beispielsweise im Thai oder Griechischen, können jedoch Schwierigkeiten auftreten.

Um die Unterschiede zwischen verschiedenen Tokenizern besser zu verstehen, werden mehrere Modelle verglichen, darunter der Bloom-Tokenizer, der GLM2-Tokenizer und der MT5-Tokenizer. Anhand von Beispielen wird gezeigt, wie viele Tokens jeder Tokenizer benötigt, um bestimmte Sätze in verschiedenen Sprachen zu repräsentieren.

Die Bedeutung der Tokenizer-Auswahl für Mehrsprachiges Feintuning

Ein Schlüsselaspekt des Videos ist die Betonung der Tokenizer-Auswahl. Es wird darauf hingewiesen, dass die Effizienz und Qualität eines Modells stark von der Fähigkeit des Tokenizers abhängt, Subword-Tokens richtig zu generieren. Insbesondere für das Feintuning in nicht-romanischen Sprachen sollte sorgfältig geprüft werden, ob der gewählte Tokenizer geeignet ist.

Empfehlungen für das Optimale Feintuning

Der Artikel gibt praktische Tipps für das optimale Feintuning mehrsprachiger Modelle. Bevor Du mit dem Feintuning beginnst, solltest Du den gewählten Tokenizer gründlich überprüfen. Die Wahl des richtigen Tokenizers kann den Unterschied zwischen erfolgreichem und weniger erfolgreichem Feintuning ausmachen.

Verständnis der Architektur von Mehrsprachigen Modellen

Mehrsprachige Modelle wie LLaMA2 sind darauf ausgelegt, mehrere Sprachen gleichzeitig zu verstehen und zu verarbeiten. Die Architektur solcher Modelle basiert oft auf transformerbasierten Ansätzen, die in der Lage sind, Muster und Zusammenhänge in großen Textmengen zu erkennen und zu lernen. Eine entscheidende Komponente hierbei ist die Tokenisierung, die sicherstellt, dass der Text in handhabbare Einheiten zerlegt wird.

Leistungskennzahlen und Benchmarks

Um die Leistung mehrsprachiger Modelle zu bewerten, werden verschiedene Benchmarks und Leistungskennzahlen herangezogen. Diese Tests vergleichen, wie gut ein Modell Aufgaben wie Übersetzung, Textgenerierung und Fragebeantwortung in verschiedenen Sprachen bewältigt. Tokenizer spielen hierbei eine wesentliche Rolle, da sie die Basis für die Verarbeitung des Textes legen.

Anwendungen von Mehrsprachigen Modellen

Mehrsprachige Modelle haben eine Vielzahl von Anwendungen, die von der maschinellen Übersetzung über die Erstellung von Inhalten bis hin zur Unterstützung bei der Analyse großer Textmengen reichen. Durch effektives Feintuning können diese Modelle an spezifische Bedürfnisse angepasst und ihre Leistung in bestimmten Aufgabenbereichen verbessert werden.

Vergleich Verschiedener Tokenizer

Bloom-Tokenizer

Der Bloom-Tokenizer ist bekannt für seine Fähigkeit, eine Vielzahl von Sprachen zu unterstützen, einschließlich solcher mit nicht-lateinischen Schriftsystemen. Durch den Einsatz moderner Tokenisierungstechniken kann der Bloom-Tokenizer effizient Subword-Tokens generieren, was besonders für Sprachen mit komplexen Wortstrukturen von Vorteil ist.

GLM2-Tokenizer

Der GLM2-Tokenizer bietet ebenfalls starke Leistung in mehreren Sprachen. Er ist darauf ausgelegt, sowohl einfache als auch komplexe Sprachstrukturen zu verarbeiten und dabei eine hohe Genauigkeit bei der Tokenisierung zu gewährleisten. Besonders in romanischen und germanischen Sprachen zeigt der GLM2-Tokenizer hervorragende Ergebnisse.

MT5-Tokenizer

Der MT5-Tokenizer, basierend auf dem T5-Modell, ist speziell für mehrsprachige Aufgaben entwickelt worden. Er bietet eine flexible Tokenisierung, die sich an die jeweiligen sprachlichen Anforderungen anpasst. Dies macht ihn besonders nützlich für das Feintuning von Modellen, die in vielen verschiedenen Sprachumgebungen eingesetzt werden sollen.

Tests in der Praxis

Um die praktische Leistung der Tokenizer zu validieren, werden spezifische Tests durchgeführt. Diese Tests umfassen die Verarbeitung von Texten in verschiedenen Sprachen und die Evaluierung der generierten Tokens. Ziel ist es, sicherzustellen, dass der Tokenizer effektiv arbeitet und die Grundlage für präzise Modellvorhersagen bietet.

Fallstudien

Gesundheitswesen

Im Gesundheitswesen können mehrsprachige Modelle eingesetzt werden, um medizinische Berichte zu analysieren, Patientendaten zu verarbeiten und Diagnosen zu unterstützen. Ein effektiver Tokenizer kann hierbei den Unterschied ausmachen, indem er sicherstellt, dass medizinische Fachbegriffe korrekt erkannt und verarbeitet werden.

Finanzdienstleistungen

In der Finanzbranche helfen mehrsprachige Modelle bei der Analyse von Markttrends, der Betrugserkennung und der Erstellung von Finanzberichten. Ein präziser Tokenizer ist essenziell, um die Genauigkeit der Datenanalyse zu gewährleisten und verlässliche Ergebnisse zu liefern.

Kundenservice

Mehrsprachige Modelle verbessern den Kundenservice, indem sie Kundenanfragen in verschiedenen Sprachen bearbeiten und Unterstützung bieten. Ein gut konfigurierter Tokenizer stellt sicher, dass die Anfragen korrekt interpretiert und angemessene Antworten generiert werden.

Technologische Innovationen

Verbesserte Tokenisierungsalgorithmen

Fortschritte in der Tokenisierungstechnologie haben zu effizienteren und genaueren Algorithmen geführt. Diese Innovationen ermöglichen es Tokenizern, besser mit den vielfältigen sprachlichen Anforderungen mehrsprachiger Modelle umzugehen.

Quantisierung und Lokale Bereitstellung

Die Quantisierung von Modellen ermöglicht deren effiziente Nutzung auf lokalen Geräten. Tokenizer, die speziell für quantisierte Modelle optimiert sind, tragen dazu bei, die Leistungsfähigkeit auch bei reduzierter Modellgröße aufrechtzuerhalten.

Zukunftsaussichten und Ethische Überlegungen

Fortschritte in der Modellentwicklung

Die Entwicklung von mehrsprachigen Modellen wird weiter voranschreiten, mit ständig verbesserten Tokenisierungstechniken und feiner abgestimmten Modellen. Diese Fortschritte werden die Leistungsfähigkeit und Vielseitigkeit der Modelle weiter erhöhen.

Ethische Aspekte

Mit der zunehmenden Verbreitung leistungsstarker KI-Modelle wird auch die Diskussion über ethische Aspekte wichtiger. Es ist entscheidend, den verantwortungsvollen Einsatz dieser Technologie zu gewährleisten und Missbrauch zu verhindern.

Kollaborative Anstrengungen und Unterstützung der Community

Die Entwicklung und das Feintuning von mehrsprachigen Modellen profitieren stark von der Zusammenarbeit innerhalb der KI-Community. Gemeinsame Anstrengungen und der Austausch von Wissen und Ressourcen tragen wesentlich zur kontinuierlichen Verbesserung dieser Modelle bei.

Zukünftige Forschungsausrichtungen

Zukünftige Forschungen werden sich darauf konzentrieren, die Leistung mehrsprachiger Modelle weiter zu verbessern, die Rechenanforderungen zu reduzieren und neue Anwendungsbereiche zu erschließen. Dabei wird die Rolle des Tokenizers weiterhin von zentraler Bedeutung sein.

Schlussfolgerung

Die Wahl des richtigen Tokenizers ist entscheidend für das erfolgreiche Feintuning mehrsprachiger Modelle. Ein effektiver Tokenizer gewährleistet, dass der Text präzise in Tokens zerlegt wird, die das Modell optimal verarbeiten kann. Durch sorgfältige Auswahl und Konfiguration des Tokenizers kannst Du die Leistungsfähigkeit Deiner Modelle erheblich verbessern und sicherstellen, dass sie den spezifischen Anforderungen verschiedener Sprachen gerecht werden.

Interne Links:

Externe Links:

• YouTube-Video “LLaMA2 for Multilingual Fine Tuning?”
• Abacus AI
• Hugging Face

Zusammenfassend lässt sich sagen, dass die Wahl des richtigen Tokenizers entscheidend für das erfolgreiche Feintuning mehrsprachiger Modelle ist. Durch sorgfältige Auswahl und Konfiguration des Tokenizers kannst Du die Leistungsfähigkeit Deiner Modelle erheblich verbessern und sicherstellen, dass sie den spezifischen Anforderungen verschiedener Sprachen gerecht werden.

Zitat des Tages

„Die Wahl des richtigen Werkzeugs ist der erste Schritt zu einem erfolgreichen Projekt.“ – Unbekannt

Schritt 1: VS Code herunterladen und installieren

Zuerst musst du VS Code herunterladen. Gehe auf die offizielle Website von VS Code und lade das Installationsprogramm für dein Betriebssystem herunter. Folge den Anweisungen, um die Installation abzuschließen.

Download VS Code

Schritt 2: Ein neues Projektverzeichnis erstellen

Erstelle ein neues Verzeichnis für dein Projekt. Öffne dein Terminal und gib folgenden Befehl ein:

mkdir MeinProjekt

Schritt 3: Projektverzeichnis in VS Code öffnen

Wechsle in das neu erstellte Verzeichnis und öffne es in VS Code:

cd MeinProjekt
code .

Alternativ kannst du auch VS Code öffnen und über Datei > Öffnen... dein Verzeichnis auswählen.

Schritt 4: Virtuelle Umgebung erstellen

Öffne ein neues Terminal in VS Code (Terminal > Neues Terminal) und erstelle eine virtuelle Umgebung mit dem Befehl:

python -m venv myenv

Dies erstellt eine neue virtuelle Umgebung namens myenv in deinem Projektverzeichnis.

Schritt 5: Virtuelle Umgebung aktivieren

Aktiviere die virtuelle Umgebung mit dem folgenden Befehl:

Auf Windows:

.\myenv\Scripts\activate

Auf MacOS oder Unix:

source myenv/bin/activate

Schritt 6: Jupyter installieren

Jetzt, wo deine virtuelle Umgebung aktiv ist, kannst du Jupyter installieren:

pip install jupyter

Schritt 7: Neues Jupyter Notebook in VS Code erstellen

Du kannst nun ein neues Jupyter Notebook in VS Code erstellen, indem du auf Datei > Neu > Jupyter Notebook gehst.

Schritt 8: Klonen des Repositories

Klonen wir nun ein Repository. Im Terminal, das sich in deinem Projektverzeichnis befindet, gib folgenden Befehl ein:

git clone https://github.com/nicknochnack/LangchainDocuments

Schritt 9: Verzeichnis wechseln

Wechsle in das geklonte Verzeichnis:

cd LangchainDocuments

Schritt 10: Abhängigkeiten installieren

Installiere die notwendigen Abhängigkeiten mit:

pip install -r requirements.txt

Schritt 11: OpenAI API-Schlüssel hinzufügen

Füge deinen OpenAI API-Schlüssel in Zeile 52 der app.py Datei hinzu. Öffne dazu die app.py Datei in VS Code und trage deinen Schlüssel ein.

Schritt 12: Anwendung starten

Starte die Anwendung mit Streamlit:

streamlit run app.py

Schritt 13: PDF laden und Fragen stellen

Lade das PDF, das du befragen möchtest, in die Anwendung und stelle deine Fragen, um die Antworten zu erhalten.

Zusammenfassung

Das war’s! Du hast erfolgreich eine Entwicklungsumgebung mit VS Code eingerichtet, eine virtuelle Umgebung erstellt, ein Projekt geklont, die notwendigen Abhängigkeiten installiert und eine Anwendung gestartet. Jetzt kannst du mit deinem Projekt loslegen und Jupyter Notebooks in VS Code verwenden. Viel Spaß beim Programmieren!

Falls du Fragen hast, hinterlasse gerne einen Kommentar. Happy Coding!

Code Llama ist eine Familie von hochmodernen, frei zugänglichen Versionen von Llama 2, die sich auf Code-Aufgaben spezialisiert haben. Wir freuen uns, die Integration in das Hugging Face-Ökosystem bekannt zu geben! Code Llama wurde unter der gleichen freizügigen Community-Lizenz wie Llama 2 veröffentlicht und ist auch für die kommerzielle Nutzung verfügbar.

Heute haben wir einige aufregende Neuigkeiten zu teilen:

• Modelle auf dem Hub: Verfügbar mit ihren Modellkarten und Lizenzen.
• Integration von Transformatoren: Für eine schnelle und effiziente produktionsbereite Inferenz.
• Integration mit Textgenerierungsinferenz: Optimiert für schnelle Produktion.
• Inferenzendpunkte: Bereit für den Einsatz in der Praxis.
• Code-Benchmarks: Zur Leistungsbewertung der Modelle.

Inhaltsverzeichnis

1. Einleitung
2. Was ist Code Llama?
3. Wie benutzt man Code Llama?
4. Demo
5. Transformatoren
6. Code-Vervollständigung
7. Code-Füllung
8. Konversationsanweisungen
9. 4-Bit-Laden
10. Verwenden von Textgenerierungsinferenz und Inferenzendpunkten
11. Auswertung
12. Zusätzliche Ressourcen

Was ist Code Llama?

Die Code-Llama-Version führt eine Modellfamilie mit 7, 13 und 34 Milliarden Parametern ein. Diese Basismodelle wurden von Llama 2 initialisiert und dann mit 500 Milliarden Token an Codedaten trainiert. Meta hat diese Basismodelle für zwei verschiedene Varianten optimiert: einen Python-Spezialisten (100 Milliarden zusätzliche Token) und eine fein abgestimmte Version mit Anweisungen, die Anweisungen in natürlicher Sprache verstehen kann.

Die Modelle zeigen herausragende Leistungen in mehreren Programmiersprachen wie Python, C++, Java, PHP, C#, TypeScript und Bash. Die Basis- und Instruct-Varianten 7B und 13B unterstützen das Infill auf der Grundlage des umgebenden Inhalts und eignen sich daher ideal für den Einsatz als Code-Assistenten. Code Llama wurde mit einem 16k-Kontextfenster trainiert und verfügt über eine zusätzliche Long-Context-Feinabstimmung, die es ermöglicht, ein Kontextfenster von bis zu 100.000 Token zu verwalten.

Wie benutzt man Code Llama?

Code Llama ist im Hugging Face Ökosystem verfügbar, beginnend mit Version 4.33. Bis Version 4.33 veröffentlicht wird, kannst du es vom main branch installieren:

!pip install git+https://github.com/huggingface/transformers.git@main

Demo

Du kannst das Code Llama Model (13 Milliarden Parameter!) in diesem Space oder im eingebetteten Playground ausprobieren:

from transformers import AutoTokenizer, pipeline
import torch

tokenizer = AutoTokenizer.from_pretrained("codellama/CodeLlama-7b-hf")
pipeline = transformers.pipeline(
    "text-generation", model="codellama/CodeLlama-7b-hf",
    torch_dtype=torch.float16, device_map="auto",
)

sequences = pipeline(
    'def fibonacci(', do_sample=True, temperature=0.2, top_p=0.9,
    num_return_sequences=1, eos_token_id=tokenizer.eos_token_id,
    max_length=100,
)

for seq in sequences:
    print(f"Result: {seq['generated_text']}")

Code-Vervollständigung

Die 7B und 13B Modelle können für Text-/Code-Vervollständigung oder Infilling verwendet werden. Hier ein Beispiel:

from transformers import AutoTokenizer, pipeline
import torch

tokenizer = AutoTokenizer.from_pretrained("codellama/CodeLlama-7b-hf")
pipeline = transformers.pipeline(
    "text-generation", model="codellama/CodeLlama-7b-hf",
    torch_dtype=torch.float16, device_map="auto",
)

sequences = pipeline(
    'def fibonacci(', do_sample=True, temperature=0.2, top_p=0.9,
    num_return_sequences=1, eos_token_id=tokenizer.eos_token_id,
    max_length=100,
)

for seq in sequences:
    print(f"Result: {seq['generated_text']}")

Code-Füllung

Dieses spezialisierte Feature ist besonders für Code-Modelle relevant. Es generiert den Code, der am besten zu einem gegebenen Präfix und Suffix passt. Hier ein Beispiel:

from transformers import AutoTokenizer, AutoModelForCausalLM
import torch

model_id = "codellama/CodeLlama-7b-hf"
tokenizer = AutoTokenizer.from_pretrained(model_id)
model = AutoModelForCausalLM.from_pretrained(model_id, torch_dtype=torch.float16).to("cuda")

prefix = 'def remove_non_ascii(s: str) -> str:\n """ '
suffix = "\n return result\n"
prompt = f" <PRE> {prefix} <SUF>{suffix} <MID>"

inputs = tokenizer(prompt, return_tensors="pt").to("cuda")
output = model.generate(inputs["input_ids"], max_new_tokens=200, do_sample=False)
output = output[0].to("cpu")
print(tokenizer.decode(output))

Konversationsanweisungen

Die Basis-Modelle können sowohl für Completion als auch für Infilling genutzt werden. Die Code Llama Veröffentlichung enthält auch ein fein abgestimmtes Instruktionsmodell, das in Konversationsschnittstellen verwendet werden kann. Hier ein Beispiel:

from transformers import AutoTokenizer, pipeline
import torch

tokenizer = AutoTokenizer.from_pretrained("codellama/CodeLlama-7b-hf")
pipeline = transformers.pipeline(
    "text-generation", model="codellama/CodeLlama-7b-hf",
    torch_dtype=torch.float16, device_map="auto",
)

user = 'In Bash, how do I list all text files in the current directory (excluding subdirectories) that have been modified in the last month?'
prompt = f"<s>[INST] {user.strip()} [/INST]"

inputs = tokenizer(prompt, return_tensors="pt", add_special_tokens=False).to("cuda")

4-Bit-Laden

Die Integration von Code Llama in Transformers ermöglicht sofortigen Zugriff auf fortgeschrittene Features wie das 4-Bit-Laden. Damit kannst du die großen 32B-Parameter-Modelle auf Consumer-GPUs wie der Nvidia 3090 laufen lassen! Hier ein Beispiel:

from transformers import AutoTokenizer, AutoModelForCausalLM, BitsAndBytesConfig
import torch

model_id = "codellama/CodeLlama-34b-hf"
quantization_config = BitsAndBytesConfig(load_in_4bit=True, bnb_4bit_compute_dtype=torch.float16)
tokenizer = AutoTokenizer.from_pretrained(model_id)
model = AutoModelForCausalLM.from_pretrained(model_id, quantization_config=quantization_config, device_map="auto")

prompt = 'def remove_non_ascii(s: str) -> str:\n """ '
inputs = tokenizer(prompt, return_tensors="pt").to("cuda")
output = model.generate(inputs["input_ids"], max_new_tokens=200, do_sample=True, top_p=0.9, temperature=0.1)
output = output[0].to("cpu")
print(tokenizer.decode(output))

Verwenden von Textgenerierungsinferenz und Inferenzendpunkten

Text Generation Inference ist ein produktionsreifer Inferenz-Container, entwickelt von Hugging Face, der eine einfache Bereitstellung großer Sprachmodelle ermöglicht. Du kannst mehr darüber lernen, wie du LLMs mit Hugging Face Inference Endpoints bereitstellst, indem du deren Blog besuchst.

Auswertung

Sprachmodelle für Code werden typischerweise auf Datensätzen wie HumanEval bewertet. Dieser Ansatz ermöglicht eine ganzheitliche Bewertung, indem HumanEval in über ein Dutzend Sprachen übersetzt wird.

Hier eine Übersicht der Modelle und deren Bewertungen:

Modell	Lizenz	Datensatz	Kommerzielle Nutzung	Pretraining Länge [Tokens]	Python	JavaScript	Durchschnittliche Bewertung
CodeLlaMa-34B	Llama 2 Lizenz			2,500B	45.11	33.57	30.79

StarCoderBase-15B | BigCode-OpenRail-M | | | 1,000B | 30.35 | 31.72 | 22.4 |
| WizardCoder-15B | BigCode-OpenRail-M | | | 1,035B | 58.12 | 41.91 | 32.07 |
| OctoCoder-15B | BigCode-OpenRail-M | | | 1,000B | 45.33 | 32.82 | 24.01 |
| CodeGeeX-2-6B | CodeGeeX Lizenz | | | 2,000B | 33.49 | 29.92 | 21.23 |
| CodeGen-2.5-7B-Mono | Apache-2.0 | | | 14B | | | |

Zusätzliche Ressourcen

• Hugging Face Blog
• Llama 2 Paper
• HumanEval Dataset

Hier sind einige häufig gestellte Fragen (FAQ) zum Thema Code Llama und dessen Anwendung:

FAQ

1. Was ist Code Llama?

Code Llama ist eine spezialisierte Version von Llama 2, die sich auf Code-Aufgaben konzentriert. Es bietet hochmoderne, frei zugängliche Modelle zur Code-Vervollständigung und anderen Coding-Aufgaben und ist im Hugging Face-Ökosystem integriert.

2. Welche Programmiersprachen werden von Code Llama unterstützt?

Code Llama unterstützt mehrere Programmiersprachen, darunter Python, C++, Java, PHP, C#, TypeScript und Bash.

3. Wie kann ich Code Llama nutzen?

Code Llama kann im Hugging Face Ökosystem genutzt werden. Installiere es über die Hauptversion der Transformers-Bibliothek und nutze es in deinen Projekten für Text- und Code-Vervollständigung sowie andere Inferenzaufgaben.

4. Was sind die Hauptvorteile von Code Llama?

Die Hauptvorteile von Code Llama sind die verbesserte Produktivität durch Code-Vervollständigung in IDEs, die Automatisierung sich wiederholender Aufgaben wie das Schreiben von Docstrings oder Unit-Tests, und die Unterstützung für große Kontextfenster bis zu 100.000 Token.

5. Welche Modellvarianten gibt es bei Code Llama?

Es gibt mehrere Varianten von Code Llama, darunter Basismodelle und fein abgestimmte Modelle mit 7, 13 und 34 Milliarden Parametern. Einige Modelle sind speziell für Python optimiert, während andere allgemeiner für verschiedene Programmiersprachen angepasst sind.

6. Wie unterscheidet sich Code Llama von anderen Code-LLMs?

Code Llama zeichnet sich durch seine hochmoderne Performance und seine Integration in das Hugging Face-Ökosystem aus, das eine einfache Nutzung und Implementierung ermöglicht. Zudem bietet es spezialisierte Funktionen wie das Infilling von Code und Unterstützung für lange Kontextfenster.