Строим агентов дома бесплатно: инструменты и модели с открытым кодом

#!/usr/bin/env python3
"""
Локальный агент-исследователь на Ollama + LangChain
Предварительные требования:
  - ollama serve (работает в фоне)
  - ollama pull mistral
  - pip install langchain langchain-ollama langchain-community duckduckgo-search
"""

import json
from langchain_core.tools import tool
from langchain_core.prompts import ChatPromptTemplate
from langchain_ollama import ChatOllama
from langchain.agents import AgentExecutor, create_react_agent
from duckduckgo_search import DDGS


@tool
def search_web(query: str) -> str:
    """Ищет информацию в интернете через DuckDuckGo."""
    try:
        with DDGS() as ddgs:
            results = list(ddgs.text(query, max_results=5))
        if not results:
            return "Результаты не найдены."
        return json.dumps(
            [{"title": r["title"], "snippet": r["body"], "url": r["href"]}
             for r in results],
            indent=2, ensure_ascii=False
        )
    except Exception as e:
        return f"Поиск не удался: {e}"


@tool
def read_file(filepath: str) -> str:
    """Читает локальный файл и возвращает его содержимое."""
    try:
        with open(filepath, "r") as f:
            return f.read()
    except FileNotFoundError:
        return f"Файл не найден: {filepath}"


@tool
def calculate(expression: str) -> str:
    """Безопасно вычисляет простое арифметическое выражение."""
    try:
        result = eval(expression, {"__builtins__": {}}, {})
        return str(result)
    except Exception as e:
        return f"Ошибка вычисления: {e}"


llm = ChatOllama(
    model="mistral",
    base_url="http://localhost:11434",
    temperature=0.3,
)

prompt = ChatPromptTemplate.from_messages([
    ("system", """Вы исследовательский ассистент. Отвечайте на вопросы с помощью инструментов.

Доступные инструменты: {tool_names}
Описания инструментов: {tools}

Следуйте этому формату точно:
Thought: Что мне нужно выяснить?
Action: название_инструмента
Action Input: входные данные для инструмента
Observation: результат инструмента
... (повторяйте по необходимости)
Thought: Теперь у меня достаточно информации.
Final Answer: ваш полный ответ"""),
    ("user", "{input}"),
    ("placeholder", "{agent_scratchpad}"),
])

tools = [search_web, read_file, calculate]
agent = create_react_agent(llm, tools, prompt)
agent_executor = AgentExecutor(
    agent=agent,
    tools=tools,
    verbose=True,
    max_iterations=8,
    handle_parsing_errors=True,
)

if __name__ == "__main__":
    result = agent_executor.invoke({
        "input": "Какие три самых популярных открытых LLM прямо сейчас? Назовите их и укажите по одной ключевой характеристике каждого."
    })
    print(f"\nИТОГОВЫЙ ОТВЕТ:\n{result['output']}")

import sqlite3

@tool
def query_database(sql: str) -> str:
    """Выполняет read-only SQL-запрос к локальной базе данных."""
    try:
        conn = sqlite3.connect("data.db")
        cursor = conn.cursor()
        cursor.execute(sql)
        rows = cursor.fetchall()
        columns = [desc[0] for desc in cursor.description]
        conn.close()
        return json.dumps([dict(zip(columns, row)) for row in rows], indent=2)
    except Exception as e:
        return f"Ошибка базы данных: {e}"

from sentence_transformers import SentenceTransformer
import chromadb

model = SentenceTransformer("all-MiniLM-L6-v2")
client = chromadb.Client()
collection = client.create_collection("docs")

@tool
def search_docs(query: str) -> str:
    """Ищет локальные документы по семантическому сходству."""
    results = collection.query(
        query_embeddings=[model.encode(query).tolist()],
        n_results=3
    )
    return json.dumps(results["documents"][0], indent=2)

FROM python:3.12-slim
RUN pip install langchain langchain-ollama langchain-community duckduckgo-search
COPY research_agent.py .
ENV OLLAMA_HOST=host.docker.internal:11434
CMD ["python3", "research_agent.py"]

def run_pipeline(question: str) -> str:
    research_result = researcher.invoke({"input": question})
    final_output = writer.invoke({
        "input": f"На основе этого исследования напишите чёткое резюме:\n{research_result['output']}"
    })
    return final_output["output"]