Stack-Check anfragen

Schublade 03 · Link-Check 02.11.2026

KI-Entwickler-Tools und LLMOps

Die Schublade mit dem Messschieber. Hier geht es darum, wie aus einem Sprachmodell eine Anwendung wird, die auch nächste Woche noch tut, was sie soll.

Zu den 36 ToolsStack-Check anfragen
36Tools in dieser Schublade
1Fach
3mit EU-Sitz
18Open Source

Ein Prompt im Chatfenster ist schnell gebaut. Eine Anwendung, die tausend Kundenanfragen am Tag beantwortet, ist eine andere Liga. Dafür brauchst du Frameworks für den Aufbau, Tracing, um zu sehen, was das Modell gerade treibt, und Tests, damit ein Modellwechsel nicht heimlich alles umwirft.

LangChain, LlamaIndex und Haystack sind die bekannten Baukästen, Haystack stammt aus Berlin. Langfuse, ebenfalls mit Wurzeln in Berlin, zeigt dir, was in deiner Anwendung passiert und was es kostet. Der Rest der Schublade ist Spezialwerkzeug für Gateways, Evaluierung und Agenten.

Entwickler-Tools und LLMOps

36 Tools
  • LangChainOSSFramework für Anwendungen und Agenten auf Basis von Sprachmodellen.
  • LlamaIndexOSSDaten-Framework für LLM-Anwendungen mit eigenen Daten (RAG).
  • HaystackEUOSSFramework aus Berlin für Agenten, semantische Suche und Frage-Antwort-Systeme.
  • CohereSprachmodelle und Embeddings für Unternehmen, stark bei Suche und Reranking.
  • LangfuseEUOSSLLM-Engineering-Plattform aus Berlin zum Debuggen, Tracen und Bewerten.
  • KeployOSSWandelt echten Nutzer-Traffic in Testfälle und Datenstubs um.
  • Portia AIOSSAgenten-Framework, bei dem Agenten ihre geplanten Schritte offenlegen und unterbrechbar bleiben.
  • LMQLOSSAbfragesprache für Sprachmodelle.
  • PhoenixOSSObservability für LLM- und ML-Modelle im Notebook.
  • Prediction GuardPrivate, kontrollierte und compliance-konforme LLM-Nutzung.
  • PortkeyLLMOps-Plattform zum Überwachen, Steuern und Verbessern von LLM-Apps.
  • OpenAI Downtime MonitorKostenloses Monitoring von Verfügbarkeit und Latenz verschiedener LLM-Anbieter.
  • ChatWithCloudAWS per natürlicher Sprache im Terminal steuern.
  • SinglebaseCloudBackend mit Vektor-DB, Dokument-DB und Auth für KI-Apps.
  • Maxim AIEvaluation und Observability für generative KI.
  • WordwareWeb-IDE, in der Fachleute und KI-Entwickler gemeinsam Agenten bauen; Prompting als Programmiersprache.
  • AI/ML APIÜber 100 KI-Modelle über eine einzige API.
  • OpikOSSTesten, Bewerten und Überwachen von LLM-Anwendungen.
  • KilnEigene Modelle bauen: synthetische Daten, Feintuning und Datensatz-Pflege ohne Code.
  • CalmoProduktionsfehler mit KI schneller debuggen.
  • CleanlabErkennt und behebt Halluzinationen in LLM-Anwendungen.
  • Agentic RadarOSSSicherheits-Scanner für agentische Workflows.
  • VoltAgentOSSTypeScript-Framework für KI-Agenten mit Werkzeugen und Gedächtnis.
  • TensorZeroOSSLLM-Gateway, Observability, Optimierung und Evaluation in einem Framework.
  • ToolHiveOSSPassende MCP-Server finden und per Klick bereitstellen.
  • AgentDockEin API-Schlüssel für alle Dienste, die ein Agent braucht.
  • CodeflashOptimiert Python-Code automatisch auf Geschwindigkeit.
  • AgentaOSSPrompt-Management, Evaluation und Observability.
  • PagerlyOperations-Copilot für Slack und Teams, unterstützt die Rufbereitschaft beim Debuggen.
  • HarborOSSLLM-Backends, APIs und Oberflächen mit einem Befehl starten.
  • PetalsOSSGroße Modelle verteilt im BitTorrent-Stil ausführen.
  • Context DataDatenaufbereitung und ETL für generative KI.
  • Agent SkillsNEUOffener Standard für Agenten-Fähigkeiten: ein Ordner mit SKILL.md und Skripten, den über 70 Agenten-Plattformen lesen können.
  • TimestralEUOSSNEUKleine Zeitreihen-Modelle von Mistral für Prognosen zu Absatz, Energie oder Sensordaten, laufen ohne Grafikkarte.
  • Scale SpellbookLLM-Apps bauen, vergleichen und bereitstellen.
  • FirecrawlOSSNEUAPI, die Websites für KI-Anwendungen durchsucht, ausliest und als Markdown oder JSON zurückgibt, mit MCP-Server für Claude, Cursor und andere Agenten. Hält sich standardmäßig an die robots.txt; auch Seiten, die mit 403 oder 404 antworten, kosten einen Credit.

Fragen aus der Werkstatt · Entwickler-Tools und LLMOps

Kurz gefragt, kurz beantwortet

Brauche ich LangChain für eine KI-Anwendung?

Nein. Für einfache Fälle reicht die Schnittstelle des Modellanbieters völlig. Frameworks lohnen sich, sobald du viele Bausteine kombinierst, etwa Dokumentensuche, Werkzeuge und mehrere Modelle.

Was bedeutet LLMOps?

Der Betrieb von Anwendungen mit Sprachmodellen: überwachen, testen, Kosten im Blick behalten, Versionen verwalten. Im Grunde DevOps, nur dass ein Bauteil gelegentlich improvisiert.

Welche Entwickler-Tools haben ihren Sitz in der EU?

In dieser Schublade tragen Haystack, Langfuse und Timestral das EU-Zeichen. Bei Open-Source-Werkzeugen ist der Firmensitz ohnehin zweitrangig, wenn du sie selbst betreibst.

Stack-Check

Du baust etwas mit Sprachmodellen?

Erzähl, was es werden soll und wo es gerade hakt. Jean schaut auf deinen Stack und sagt dir, was fehlt und was raus kann.

Markier Tools mit dem Lesezeichen, die Merkliste reist mit deiner Anfrage mit.

Felder mit * sind Pflicht.

Die Antwort kommt per E-Mail, meist innerhalb weniger Tage. Oder direkt an jeanmauriceport@gmail.com.

Weitere Schubladen

Woanders weiterstöbern

KI-Tools für Text und SpracheSchublade 01 · 151 ToolsKI-Tools für Automatisierung und AgentenSchublade 02 · 12 ToolsProgrammieren mit KISchublade 04 · 35 ToolsKI-Tools für BilderSchublade 05 · 50 ToolsKI-Tools für VideoSchublade 06 · 15 ToolsKI-Tools für AudioSchublade 07 · 34 ToolsKI-Tools für Marketing und SEOSchublade 08 · 29 ToolsKI-TelefonagentenSchublade 09 · 9 ToolsWeitere KI-ToolsSchublade 10 · 24 Tools