...
KI-Anfragen können, abhängig vom Typ, auf verschiedenen Sprach- / KI-Modellen ausgeführt werden. Die AI-Services kapseln dabei die Anbindung an das jeweilige Modell. Generell unterscheiden wir in Prompt-Basierte Modelle (zB. ChatGPT von OpenAI oder Bard von Google), also Modelle, die Anfragen in Textform (Prompts) verarbeiten können und spezialisierten Modellen, die nicht über einen Prompt menschenlesbaren Textprompt sondern eine Programmierschnittstelle angesprochen werden.
...
| Parameter | Default | Wertebereich | Bedeutung |
|---|---|---|---|
| Temperatur | 0 | 0-2 | Je "wärmer" diese Temperatur eingestellt wird, umso "kreativer" fallen die Antworten des Modells aus. Ein Wert von 0 erzeugt idR. deterministische Antworten, höhere Werte erzeugen zufälligere Antworten. Wird dieser Wert angepasst, sollte Top P auf 0 stehen. |
| Top P | 0 | 0-1 | Steuert analog zur Temperatur die Abweichung innerhalb der Antworten. Dieser alternative Bewertungsweg (nucleus sampling) legt eine Prozentzahl fest, innerhalb derer eine Gewichtung ähnlicher Tokens stattfinden soll. Ein Wert von 0 erzeugt idR. deterministische Antworten, höhere Werte erzeugen zufälligere Antworten. 0.1 = 10% Wird dieser Wert angepasst, sollte die Temperatur auf 0 stehen. |
| Presence Penalty | 0 | -2 - 2 | Steuert, wie häufig ein Begriff in einer Antwort vorkommen darf. Ein höherer Wert sorgt für stärkere (idR. thematische) Abweichungen innerhalb der Antwort. Siehe https://platform.openai.com/docs/guides/text-generation/parameter-details |
| Frequency Penalty | 0 | -2 - 2 | Legt fest, wie häufig Begriffe innerhalb der Antwort wiederholt werden dürfen. Ein höherer Wert sorgt für weniger Wiederholungen innerhalb der Antwort. Siehe https://platform.openai.com/docs/guides/text-generation/parameter-details |
Google Bard
Weitere Modelle folgen.
Prompt Management
...
| Instruktion / Aktion | Bemerkung |
|---|---|
| ohne Absätze | Der Standard sieht vor, das das Modell die Absatzstruktur im Text auflösen oder verändern darf. Das sorgt dafür, dass die Kürzung näher an der Zielvorgabe liegt. |
| Erhaltung der Absätze | Der Anwender kann die Kürzung auch unter Erhaltung der bisherigen Absatzstruktur vornehmen. Das Modell darf also nur innerhalb der Absätze kürzen. Das führt idR. dazu, dass die Zielvorgabe nicht genau erreicht werden kann. |
| Aktionen | Hier können beliebige Folgeaktionen definiert werden, die in der Oberfläche angeboten werden. |
Teaser vorschlagen
t.b.d.
Überschrift vorschlagen
t.b.d.
Text prüfen
t.b.d.
Text kürzen (in Prozent)
t.b.d.
Swagger UI / WebServices
Die AI-Services können auch extern verwendet werden. Die Schnittstelle ist mit einer Swagger-UI dokumentiert. Zur Anmeldung wird das API Token des jeweiligen Mandanten verwendet.
...