Tích hợp Langchain

ghi

Tích hợp với Langchain có thể được thực hiện bằng Python hoặc Javascript.

LangChain là một khuôn khổ để phát triển các ứng dụng được hỗ trợ bởi mô hình ngôn ngữ lớn (LLM).

Bạn có thể cấu hình Langchain để sử dụng bất kỳ nút Gaia nào làm phần phụ trợ LLM, theo cách đó, bạn có thể xây dựng bất kỳ tác nhân AI hoặc ứng dụng hỗ trợ AI nào sử dụng Gaia để suy luận.

Điều kiện tiên quyết

Bạn sẽ cần một nút Gaia sẵn sàng cung cấp dịch vụ LLM thông qua URL công khai. Bạn có thể:

• Chạy nút của riêng bạn
• Sử dụng nút công khai

Nếu bạn đang sử dụng một nút công khai, bạn sẽ cần một khóa API . Gaia cung cấp miễn phí 50.000 tín dụng API để sử dụng với các dịch vụ có sẵn như nút công khai khi bạn đăng ký tài khoản nhà phát triển .

Cài đặt

• Thiết lập dự án trên máy (JavaScript hoặc Python)

• Cài đặt Langchain:

JavaScript

npm cài đặt @langchain/openai @langchain/core dotenv

Trăn

pip cài đặt langchain langchain-openai python-dotenv

Tích hợp với Gaia

Để bắt đầu chạy nút Gaia, bạn có thể làm theo hướng dẫn trên trang Thiết lập nút của riêng bạn để bắt đầu nhanh.

Trong hướng dẫn này, chúng tôi sẽ chạy nút Gaia cục bộ nên không cần khóa API, bạn có thể sử dụng chuỗi như: "Gaia" làm trình giữ chỗ. Tạo .env lưu trữ và lưu trữ khóa API của bạn:

GAIANET_API_KEY="Gaia"

Tích hợp với Langchain và Gaia có thể được thực hiện bằng bất kỳ JavaScript hoặc Python nào. Có các đoạn mã bên dưới cho thấy tích hợp trông như thế nào trong cả hai ngôn ngữ:

JavaScript

import { ChatOpenAI, OpenAI } from "@langchain/openai";
import dotenv from "dotenv";

dotenv.config();

const model = new ChatOpenAI({
    configuration: {
        apiKey: process.env.GAIANET_API_KEY,
        model: "Llama-3-Groq-8B-Tool",
        baseURL:
        "gaia-node-url/v1",
    },
});

const response = await model.invoke("Hello, world!");

console.log(response)

Trăn

từ langchain_openai nhập ChatOpenAI , OpenAI
 nhập khẩu hệ điều hành

 mô hình = ChatOpenAI (
 api_key = os . môi trường . nhận được ( "GAIANET_API_KEY" ) ,
 mô hình = "Llama-3-Groq-8B-Tool" ,
 url_cơ_sở = "gaia-node-url/v1"
 )

 phản hồi = mô hình . invoke ( "Xin chào thế giới!" )

 in ( phản hồi )

Triệu hồi các mô hình Gaia

Sau khi thiết lập kết nối cơ bản, bạn có thể bắt đầu sử dụng các tính năng mạnh mẽ của Langchain. Bắt đầu bằng cách thực hiện lệnh gọi đến mô hình.

JavaScript

// ...
 phản hồi const = chờ mô hình . invoke ( "Xin chào thế giới!" ) ;

 console .log ( phản hồi )

Trăn

# ...
 phản hồi = mô hình . invoke ( "Xin chào thế giới!" )

 in ( phản hồi )

Hỗ trợ LangChain cũng mở ra khả năng tích hợp với LangGraph và LangSmith .