...
Im Admin-Tool können je KI-Funktion kundenspezifische Anpassungen vorgenommen und die aktuellen Verbrauchsdaten eingesehen werden.
| Inhalt |
|---|
Unterscheidung der KI-Funktionen
KI-Anfragen können, abhängig vom Typ, auf verschiedenen Sprach- / KI-Modellen ausgeführt werden. Die AI - Services kapseln dabei die Anbindung an das jeweilige Modell. Generell unterscheiden wir in Prompt-Basierte Modelle (zBzwischen prompt-basierten Modellen (z. B. ChatGPT von OpenAI oder Bard von Google), also ModelleModellen, die Anfragen in Textform (Prompts) verarbeiten können und spezialisierten Modellen, die nicht über einen menschenlesbaren Textprompt, sondern über eine Programmierschnittstelle angesprochen werden.
...
| Parameter | Default | Wertebereich | Bedeutung |
|---|---|---|---|
| Temperatur | 0 | 0-2 | Je "wärmer" diese Temperatur eingestellt wird, umso "kreativer" fallen die Antworten des Modells aus. Ein Wert von 0 erzeugt idRi. d. R. deterministische Antworten, höhere Werte erzeugen zufälligere Antworten. Wird dieser Wert angepasst, sollte Top P auf 0 stehen. |
| Top P | 0 | 0-1 | Steuert analog zur Temperatur die Abweichung innerhalb der Antworten. Dieser alternative Bewertungsweg (nucleus sampling) legt eine Prozentzahl fest, innerhalb derer eine Gewichtung ähnlicher Tokens stattfinden soll. Ein Wert von 0 erzeugt idRi. d. R. deterministische Antworten, höhere Werte erzeugen zufälligere Antworten . (0.1 = 10%10 %). Wird dieser Wert angepasst, sollte die Temperatur auf 0 stehen. |
| Presence Penalty | 0 | -2 - 2 | Steuert, wie häufig ein Begriff in einer Antwort vorkommen darf. Ein höherer Wert sorgt für stärkere (idRi. d. R. thematische) Abweichungen innerhalb der Antwort. Siehe https://platform.openai.com/docs/guides/text-generation/parameter-details |
| Frequency Penalty | 0 | -2 - 2 | Legt fest, wie häufig Begriffe innerhalb der Antwort wiederholt werden dürfen. Ein höherer Wert sorgt für weniger Wiederholungen innerhalb der Antwort. Siehe https://platform.openai.com/docs/guides/text-generation/parameter-details |
...
Prompt Management
Alle prompt-basierten KI-Funktionen werden durch die HUP auf ein geeignetes KI-Modell fest gelegt festgelegt und mit standard Standard-Prompts ausgestattet. Wir pflegen diese standard Standard-Prompts und passen diese sie an neue Modelle bzw. Gegebenheiten an.
Standard-Prompts können je Kunde angepasst oder vollständig überschrieben werden (auch das zu verwendende Modell). Ebenfalls können je Mandant eigene Prompts / Aktionen angelegt werden.
Je Prompt werden verschiedene Parameter, abhängig vom gewählten Sprach-/KI-Modell, unterstützt . (Siehe siehe oben).
Sollten Sie Hilfe bei der Erstellung eigener Aktionen benötigen, sind wir gern behilflich. Zusätzlich haben wir hier einen kleinen Leitfaden für das PromtPrompt-Engineering für Sie bereit gestellt.
Text
...
kürzen
Die Aktion "Text Kürzenkürzen" kann im myContent Editor aufgerufen werden , und erlaubt es, einen Text auf eine Ziellänge zu kürzen. Folgeprompts werden unterstützt.
...
| Instruktion / Aktion | Bemerkung |
|---|---|
| ohne Absätze | Der Standard sieht vor, das dass das Modell die Absatzstruktur im Text auflösen oder verändern darf. Das sorgt dafür, dass die Kürzung näher an der Zielvorgabe liegt. |
| Erhaltung der Absätze | Der Anwender kann die Kürzung auch unter Erhaltung der bisherigen Absatzstruktur vornehmen. Das Modell darf also nur innerhalb der Absätze kürzen. Das führt idRi. d. R. dazu, dass die Zielvorgabe nicht genau erreicht werden kann. |
| Aktionen | Hier können beliebige Folgeaktionen definiert werden, die in der Oberfläche angeboten werden. |
...
Neben der Kürzung ganzer Artikeltexte können KI-Funktionen auch auf einzelne Komponenten (Textbestandteile) wie zBz. B. einen Absatz, die Überschrift oder den Teaser angewendet werden.
Je Komponenten-Aktion stehen die gängigen Modell-Parameter (vgl. oben) sowie die Möglichkeit zur Definition sog. Trainings-Samples zu definieren zur Verfügung. Diese Trainigssamples Trainings-Samples werden mit jeder Anfrage (des passenden Typs) an das Sprachmodell übermittelt und dienen ihm als Referenz für die gewünschten Antworten. Diese Methodik des Trainings nennt sich One-Shot-Learning (bei einem TrainigssampleTrainings-Sample) oder Few-Shot-Learning (bei mehreren Samples).
Zu beachten ist, dass die Samples auf die Menge der Anfrage-Tokens einzahlen , und somit Einfluss auf die maximale Anfragelänge und auch die monatlichen Kosten haben.
...
Kürzt den übergebenen Text um die angegebene Prozentzahl.
Überschrift vorschlagen
Schlägt 4 Varianten einer SEO Überschrift für den kompletten Text vor. Mandantspezifisch kann mittels Few-Shot-Learning trainiert werden, wie die Ideale ideale Überschrift ausehen aussehen soll.
Teaser vorschlagen
Schlägt 4 Varianten eines SEO Teasers für den kompletten Text vor. Mandantspezifisch kann mittels Few-Shot-Learning trainiert werden, wie der Ideale ideale Teaser ausehen aussehen soll.
Bereinigen
Entfernt Floskeln und unnötige Annotationen aus dem Text. (CMS: der jeweiligen Komponenten)
...
Redigiert den übergebenen Text. (CMS: der jeweiligen Komponenten) Mandantspezifisch kann mittels One- oder Few-Shot-Learning trainiert werden, wie zu redigieren ist.
Rechtschreib-
...
und Grammatikprüfung
Prüft den übergebenen Text auf Korrektheit. (CMS: der jeweiligen Komponenten) Sind keine Fehler vorhanden, wird der Quelltext geliefert, waren Korrekturen erforderlich, wird der korrigierte Text geliefert.
Swagger UI / WebServices
Die AI - Services können auch extern verwendet werden. Die Schnittstelle ist mit einer Swagger-UI dokumentiert. Zur Anmeldung wird das API Token (JWT RS256) des jeweiligen Mandanten verwendet.
...