집에서 무료로 에이전트 구축하기: 오픈소스 도구와 모델

#!/usr/bin/env python3
"""
Ollama + LangChain을 사용한 로컬 리서치 에이전트
사전 요구사항:
  - ollama serve (백그라운드에서 실행 중)
  - ollama pull mistral
  - pip install langchain langchain-ollama langchain-community duckduckgo-search
"""

import json
from langchain_core.tools import tool
from langchain_core.prompts import ChatPromptTemplate
from langchain_ollama import ChatOllama
from langchain.agents import AgentExecutor, create_react_agent
from duckduckgo_search import DDGS


@tool
def search_web(query: str) -> str:
    """DuckDuckGo를 사용하여 웹에서 정보를 검색한다."""
    try:
        with DDGS() as ddgs:
            results = list(ddgs.text(query, max_results=5))
        if not results:
            return "결과를 찾을 수 없습니다."
        return json.dumps(
            [{"title": r["title"], "snippet": r["body"], "url": r["href"]}
             for r in results],
            indent=2, ensure_ascii=False
        )
    except Exception as e:
        return f"검색 실패: {e}"


@tool
def read_file(filepath: str) -> str:
    """로컬 파일을 읽고 내용을 반환한다."""
    try:
        with open(filepath, "r") as f:
            return f.read()
    except FileNotFoundError:
        return f"파일을 찾을 수 없음: {filepath}"


@tool
def calculate(expression: str) -> str:
    """단순 산술 표현식을 안전하게 평가한다."""
    try:
        result = eval(expression, {"__builtins__": {}}, {})
        return str(result)
    except Exception as e:
        return f"계산 오류: {e}"


llm = ChatOllama(
    model="mistral",
    base_url="http://localhost:11434",
    temperature=0.3,
)

prompt = ChatPromptTemplate.from_messages([
    ("system", """당신은 리서치 어시스턴트입니다. 도구를 사용하여 질문에 답하세요.

사용 가능한 도구: {tool_names}
도구 설명: {tools}

이 형식을 정확히 따르세요:
Thought: 무엇을 알아내야 하는가?
Action: 도구_이름
Action Input: 도구에 대한 입력
Observation: 도구 결과
... (필요에 따라 반복)
Thought: 이제 충분한 정보가 있다.
Final Answer: 완전한 답변"""),
    ("user", "{input}"),
    ("placeholder", "{agent_scratchpad}"),
])

tools = [search_web, read_file, calculate]
agent = create_react_agent(llm, tools, prompt)
agent_executor = AgentExecutor(
    agent=agent,
    tools=tools,
    verbose=True,
    max_iterations=8,
    handle_parsing_errors=True,
)

if __name__ == "__main__":
    result = agent_executor.invoke({
        "input": "지금 가장 인기 있는 오픈소스 LLM 세 가지는 무엇인가? 이름과 각각의 주요 특징을 알려줘."
    })
    print(f"\n최종 답변:\n{result['output']}")

import sqlite3

@tool
def query_database(sql: str) -> str:
    """로컬 데이터베이스에 읽기 전용 SQL 쿼리를 실행한다."""
    try:
        conn = sqlite3.connect("data.db")
        cursor = conn.cursor()
        cursor.execute(sql)
        rows = cursor.fetchall()
        columns = [desc[0] for desc in cursor.description]
        conn.close()
        return json.dumps([dict(zip(columns, row)) for row in rows], indent=2)
    except Exception as e:
        return f"데이터베이스 오류: {e}"

from sentence_transformers import SentenceTransformer
import chromadb

model = SentenceTransformer("all-MiniLM-L6-v2")
client = chromadb.Client()
collection = client.create_collection("docs")

@tool
def search_docs(query: str) -> str:
    """의미적 유사성으로 로컬 문서를 검색한다."""
    results = collection.query(
        query_embeddings=[model.encode(query).tolist()],
        n_results=3
    )
    return json.dumps(results["documents"][0], indent=2)

FROM python:3.12-slim
RUN pip install langchain langchain-ollama langchain-community duckduckgo-search
COPY research_agent.py .
ENV OLLAMA_HOST=host.docker.internal:11434
CMD ["python3", "research_agent.py"]

def run_pipeline(question: str) -> str:
    research_result = researcher.invoke({"input": question})
    final_output = writer.invoke({
        "input": f"이 연구를 바탕으로 명확한 요약을 작성하세요:\n{research_result['output']}"
    })
    return final_output["output"]