wer hat das schon mal gemacht und mag es mir in groben Zügen erklären: #LLM nutzen aber eigene Erweiterungen um auf eigene, lokale Datenbestände zu gehen für Abfragen.
Beispiel: Eine größere, lokale Software mit lokaler (im lokalen Netzwerk) Datenbank. Da drin viele Aufträge mit vielen Positionen und Kalkulationen, laufende Baustellen mit Einsatzplanungen etc.
Nun mag eine Kundin Dinge sehen wollen, wie:
"Welche Baustelle läuft gerade am schlechtesten und welce am besten?" (1/4)
=> More informations about this toot | More toots from nSonic@troet.cafe
"Was muss ich für die Gartenstraße noch liefern?"
"Ich bestelle gerade xyz-Palisaden, brauche ich die demnächst noch auf anderen Baustellen?"
Man erklärte mir mal, es sei möglich eine eigene API an ein #LLM anzuhängen. Das soll so funktionieren, dass man wiederum mit einer Text-Erklärung dem LLM beibringen soll, wie diese API zu füttern ist, damit man dann normalisierte Eingaben bekommt um dann eben eigenen Code (SQL + eigene Logik auf eigenen Daten) laufen lassen könnte. (2/4)
=> More informations about this toot | More toots from nSonic@troet.cafe
Wie muss ich mir das bei o.g. Beispielen vorstellen? Mir ist völlig unklar, wie die LLM wissen soll, dass "die Gartenstraße" eine bestimmte Baustelle mit irgendeiner Nummer ist, die eben eine Adresse in der Gartenstraße hat und der Mensch weiß, in welcher Stadt/Dorf das ist, auch wenn es zig Gartenstraßen gibt - es ist eben die eine aktive Baustelle gemeint was sich aus der Frage ergibt. (3/4)
=> More informations about this toot | More toots from nSonic@troet.cafe
eine Frage nach: "Ist die Gartenstraße gut gelaufen?" wäre auch so ein Ding… wenn ich in 10 Jahren 100 Aufträge in "Gartenstraßen" (in versch. Dörfern/Städen) hatte, was erwartet ich als Anwender dann? Wie sieht die API aus und die LLM-Beschreibung eben dieser um so etwas sinnvoll zu beantworten? (4/4)
=> More informations about this toot | More toots from nSonic@troet.cafe This content has been proxied by September (3851b).Proxy Information
text/gemini