Trend-Themen
#
Bonk Eco continues to show strength amid $USELESS rally
#
Pump.fun to raise $1B token sale, traders speculating on airdrop
#
Boop.Fun leading the way with a new launchpad on Solana.
Ich habe über ein Jahr lang KI-Agenten in der Produktion entwickelt.
Hier ist ein häufiges Problem, mit dem Entwickler konfrontiert sind, wenn sie Agenten in die Produktion skalieren:
Sie jonglieren typischerweise zwischen separaten Diensten für Vektoren, strukturierte Daten und Sitzungen.
Drei verschiedene Verbindungspools. Drei Backup-Strategien. Drei Überwachungs-Dashboards.
Die Agentenschleife selbst ist einfach mit Logik, Werkzeugen und Gedächtnis, aber die Infrastruktur wird zum Flaschenhals.
Wenn Sie einen saubereren Weg sehen möchten, um dies zu handhaben, habe ich einen Agenten gebaut, der @MongoDB als das einzige Backend für alles verwendet. Ich habe mit ihrem Team zusammengearbeitet, um dies mit Ihnen zu teilen.
Die Einrichtung ist unkompliziert:
↳ Beginnen Sie mit einem PDF-Dokument. Der Agent wird Fragen dazu beantworten, während er sich an frühere Gespräche erinnert.
↳ Zuerst wird das PDF in Abschnitte unterteilt und mit dem Modell von Voyage AI eingebettet. Diese Einbettungen gehen direkt in MongoDB mit einem Vektorindex.
↳ Dann definieren Sie zwei Werkzeuge: eines für die Vektorsuche, eines für grundlegende Berechnungen, falls erforderlich. Der Agent entscheidet, welches er basierend auf der Anfrage verwendet.
↳ Das Gedächtnis wird in derselben Datenbank unter Sitzungs-IDs gespeichert. Jede Interaktion, die der Agent hat, wird zurückgeschrieben, sodass er auf frühere Wendungen verweisen kann.
↳ Der Planer verbindet alles. Er schaut sich die Gesprächshistorie an, entscheidet, ob er ein Werkzeug benötigt, führt dieses Werkzeug aus und generiert die endgültige Antwort.
Hier ist, wo das einheitliche Backend wichtig ist:
Wenn der Agent nach Kontext sucht, fragt er dieselbe Datenbank ab, die Benutzersitzungen und strukturierte Daten speichert.
Wenn er ins Gedächtnis schreibt, verwaltet dieselbe MongoDB-Instanz die Vektoreinbettungen.
...
Top
Ranking
Favoriten
