vanna.AI: Ein vielseitiges Framework für Sprachmodellapplikationen und SQL-Abfragen
vanna.AI ist ein umfassendes Framework, das speziell für die Erstellung von Sprachmodellapplikationen rund um Datenbanken und die Generierung von SQL-Abfragen entwickelt wurde. Es bietet eine breite Auswahl an Sprachmodellen, die von Ollama, Gemini und OpenAI bis hin zu benutzerspezifischen Modellen reichen. Zudem unterstützt es eine Vielzahl von Vektordatenbanken wie pgvector, ChromaDB und Marqo sowie die Anbindung an nahezu alle gängigen Datenbanken, darunter SQL-Server, PostgreSQL, Snowflake, BigQuery und Oracle.
Integration und Einsatzmöglichkeiten
Durch die Integration mit Ollama und einer lokal bereitgestellten Vektordatenbank kann vanna.AI auch On-Premises eingesetzt werden, was besonders für den Umgang mit hochsensiblen Daten von Vorteil ist. Mit vanna.AI lässt sich die Vektordatenbank der RAG-Pipeline auf einfache Weise befüllen. Eine einzige Zeile Python-Code genügt, um auf das INFORMATION_SCHEMA zuzugreifen, die darin enthaltenen Informationen aufzubereiten und als Wissen in die Vektordatenbank zu speichern.
Erweiterung der Wissensbasis
Natürlich reichen diese Informationen allein nicht aus, um dem Sprachmodell Details über ein komplexes semantisches Modell zu vermitteln. Daher können DDLs, Dokumentationen, welche die Beziehungen der Datenbankobjekte beschreiben, Beispiel-Queries sowie Frage-Antwort-Paare der Vektordatenbank hinzugefügt werden. Ein weiteres nützliches Feature ist das automatische Vervollständigen der Wissensdatenbank während des Gebrauchs von vanna.AI. Bei jeder Benutzeranfrage generiert vanna.AI mehrere SQL-Abfragen, von denen der Anwender eine auswählen kann. Die Benutzeranfrage und das gewählte Query werden dann als Frage-Antwort-Paar der Vektordatenbank automatisch hinzugefügt.
Erfahrungen aus der Praxis
In unseren Tests stellten wir fest, dass eine einfache Wissensbasis, die hauptsächlich DDLs enthält, ausreicht, um einfachere Abfragen zu generieren. Bei komplexeren Berechnungen oder Join-Statements stiess vanna.AI jedoch an ihre Grenzen. Die Qualität der generierten Queries verbesserte sich, als wir der Vektordatenbank Beispiel-Queries hinzufügten. Ein kritisches Evaluieren der Resultate bleibt jedoch unerlässlich.
Im letzten Teil der Blogserie werden wie auf ein weiteres KI-Tool für die Generierung von SQL-Abfragen eingehen, welches wir auf seine Stärken und Schwächen getestet haben.
Sie würden gerne KI in Ihrer Unternehmung einsetzen, wissen aber nicht wo anfangen? Buchen Sie unseren kostenlosen [AI]DEATION Workshop und starten Sie mit uns zusammen Ihre Reise durch den KI-Dschungel.