Zu Hause kostenlos Agenten bauen: Open-Source-Tools und Modelle

#!/usr/bin/env python3
"""
Lokaler Recherche-Agent mit Ollama + LangChain
Voraussetzungen:
  - ollama serve (läuft im Hintergrund)
  - ollama pull mistral
  - pip install langchain langchain-ollama langchain-community duckduckgo-search
"""

import json
from langchain_core.tools import tool
from langchain_core.prompts import ChatPromptTemplate
from langchain_ollama import ChatOllama
from langchain.agents import AgentExecutor, create_react_agent
from duckduckgo_search import DDGS


@tool
def search_web(query: str) -> str:
    """Sucht im Web nach Informationen mit DuckDuckGo."""
    try:
        with DDGS() as ddgs:
            results = list(ddgs.text(query, max_results=5))
        if not results:
            return "Keine Ergebnisse gefunden."
        return json.dumps(
            [{"title": r["title"], "snippet": r["body"], "url": r["href"]}
             for r in results],
            indent=2
        )
    except Exception as e:
        return f"Suche fehlgeschlagen: {e}"


@tool
def read_file(filepath: str) -> str:
    """Liest eine lokale Datei und gibt ihren Inhalt zurück."""
    try:
        with open(filepath, "r") as f:
            return f.read()
    except FileNotFoundError:
        return f"Datei nicht gefunden: {filepath}"


@tool
def calculate(expression: str) -> str:
    """Wertet einen einfachen arithmetischen Ausdruck sicher aus."""
    try:
        result = eval(expression, {"__builtins__": {}}, {})
        return str(result)
    except Exception as e:
        return f"Berechnungsfehler: {e}"


llm = ChatOllama(
    model="mistral",
    base_url="http://localhost:11434",
    temperature=0.3,
)

prompt = ChatPromptTemplate.from_messages([
    ("system", """Du bist ein Recherche-Assistent. Beantworte Fragen mit deinen Tools.

Verfügbare Tools: {tool_names}
Tool-Beschreibungen: {tools}

Folge genau diesem Format:
Thought: Was muss ich herausfinden?
Action: tool_name
Action Input: die Eingabe für das Tool
Observation: Tool-Ergebnis
... (bei Bedarf wiederholen)
Thought: Ich habe jetzt genug Informationen.
Final Answer: deine vollständige Antwort"""),
    ("user", "{input}"),
    ("placeholder", "{agent_scratchpad}"),
])

tools = [search_web, read_file, calculate]
agent = create_react_agent(llm, tools, prompt)
agent_executor = AgentExecutor(
    agent=agent,
    tools=tools,
    verbose=True,
    max_iterations=8,
    handle_parsing_errors=True,
)

if __name__ == "__main__":
    result = agent_executor.invoke({
        "input": "Was sind die drei beliebtesten Open-Source-LLMs gerade? Nenne die Namen und je eine Schlüsseleigenschaft."
    })
    print(f"\nENDGÜLTIGE ANTWORT:\n{result['output']}")

import sqlite3

@tool
def query_database(sql: str) -> str:
    """Führt eine schreibgeschützte SQL-Abfrage auf der lokalen Datenbank aus."""
    try:
        conn = sqlite3.connect("data.db")
        cursor = conn.cursor()
        cursor.execute(sql)
        rows = cursor.fetchall()
        columns = [desc[0] for desc in cursor.description]
        conn.close()
        return json.dumps([dict(zip(columns, row)) for row in rows], indent=2)
    except Exception as e:
        return f"Datenbankfehler: {e}"

from sentence_transformers import SentenceTransformer
import chromadb

model = SentenceTransformer("all-MiniLM-L6-v2")
client = chromadb.Client()
collection = client.create_collection("docs")

@tool
def search_docs(query: str) -> str:
    """Durchsucht lokale Dokumente nach semantischer Ähnlichkeit."""
    results = collection.query(
        query_embeddings=[model.encode(query).tolist()],
        n_results=3
    )
    return json.dumps(results["documents"][0], indent=2)

FROM python:3.12-slim
RUN pip install langchain langchain-ollama langchain-community duckduckgo-search
COPY research_agent.py .
ENV OLLAMA_HOST=host.docker.internal:11434
CMD ["python3", "research_agent.py"]

def run_pipeline(question: str) -> str:
    research_result = researcher.invoke({"input": question})
    final_output = writer.invoke({
        "input": f"Schreibe basierend auf dieser Recherche eine klare Zusammenfassung:\n{research_result['output']}"
    })
    return final_output["output"]