Chat GPT Dienst

[detlef]

Noch ein paar Hintergrund-Informationen zum ChatGPT-Dienst.

Man kann über die API einige Einstellungen machen. Zunächst kann man das Sprachmodell wählen. Im Moment ist
"gpt-3.5-turbo" eingestellt. Das ist das aktuelle empfohlenen Modell. Hier könnte ich auch GPT4 einstellen. Dann wird dann etwas teurer.
Ich werde das mal experimentell machen und schauen, wie sich das auf die Kosten auswirkt.

Dann gibt es noch die Parameter "Temperature" und "Top-P". Mit Temperature kann man die "Kreativität" und Zufälligkeit der Antworten festlegen. 0 ist eher nüchtern und reproduzierbar und 1 eher Labertasche, die dann auch mehr Unsinn erzählt. 0,5 ist irgendwo dazwischen.

Mit Top-P kann man (ebenfalls von 0 bis 1) irgendwie die Varianz bzw. die Anzahl der Varianten festlegen, mit denen ChatGPT intern seine Antworten generiert. Ich glaube, um den Parameter zu verstehen, muss man mehr über die grundsätzliche Arbeitsweise von ChatGPT wissen. Ich blicke das noch nicht so richtig.

So wie es aussieht funktioniert das Setzen von Temperatur und Top-P über die aktuell von mir eingesetze Bibliothek überhaupt nicht. Die Werte sind also vermutlich beide 0.

Ich werde heute im Laufe des Tages auf eine andere Bibliothek wechseln. Zeitgleich erfolgt, wie gesagt, die probeweise Umstellung auf GPT4.
Und ich plane dann, die beiden oben genannten Parameter einstellbar zu machen. Dann kann jeder selber wählen, ob er eher wildes Gelaber oder eher nüchterne Antworten haben will. Wobei jetzt der Unterschied bei den erzeugten Antworten gar nicht soo groß ist, wie sich das in der Beschreibung liest.

[detlef]

Der ChatGPT-Dienst ist jetzt umgestellt.

Es läuft jetzt ChatGPT 4 und man kann durch Eingabe von "set" den Temperature- und Top-P-Wert einstellen. Das muss man am Beginn jeder Sitzung wieder neu machen, sonst bräuchte es User-Accounts.

Die Standard-Einstellung ist jetzt so, dass ChatGPT ein wenig kreativer und mit mehr Varianz antwortet als vorher. Probiert es einfach mal aus und spielt mit den Einstellungen, wenn ihr möchtet. Je höher die Werte, um so kreativer bzw. geschwätziger wird ChatGPT.

Muss man aber nicht. Man kann auch wie zuvor einfach seine Fragen stellen.

[jan02]

Ich kann mir vorstellen, dass das für die Besucher interessant war. Das hätte man auf der Maker Faire auch gut zeigen können. Allerdings gab es den Dienst da ja noch nicht .

Vielleicht ging aus meiner Anfrage die Sprache auch nicht hervor:
,,Heinz Nixdorf Museumsforum in Paderborn".
Heinz Nixdorf Museumsforum = Eigenname
in = Deutsch und Englisch das Gleiche
Paderborn = Ortsname

[Zaphod]

Newly connected and my 12 year old son is a bit bewildered by this Telex thing. So i got him to use ChatGPT (still new for him) via the telex, he was impressed by the new and old technology fusion, as am I, thanks Detlef for a great feature and a useful one at that. My sons question? How do i revise for my German test tomorrow. The answer was in English as expected but a German response may have helped! And maybe ' stop playing with tech and get on with it' may have been a good answer but to be fair it was a good list of options.
I have been looking at AI APIs for Python. Could the BingAI (which uses ChatGPT3.5 i think) API be useful as a free alternative?

John

[detlef]

Hi John,

In fact, cost is not a problem. The costs are currently around 2 dollars since the service was introduced. Most services, after an initial peak, are not used as frequently as one might expect. It's the same with the ChatGTP service. Most of my services are primarily demonstrated at events or in museeums and that is where they serve their purpose.
(Sorry for Google English )