Ứng dụng hệ sinh thái OpenAI

Vì mỗi nút GaiaNet cung cấp một dịch vụ API tương thích OpenAI, nó có thể là một sự thay thế thả vào cho OpenAI trong hầu hết các ứng dụng và khung LLM. Kiểm tra các bài viết trong phần này để được hướng dẫn và các ví dụ về cách sử dụng GaiaNet trong các ứng dụng LLM phổ biến.

Thư viện OpenAI Python

Bạn có thể cài đặt thư viện OpenAI Python chính thức như sau.

pip cài đặt openai

Khi bạn tạo một máy khách OpenAI bằng thư viện, bạn có thể chuyển điểm cuối API dưới dạng base_url. Hãy nhớ gắn thêm /v1 sau tên máy chủ. Bạn có thể tìm thấy danh sách các nút công khai Ở đây.

Nhập OpenAI

Khách hàng = OpenAI. OpenAI(base_url="https://YOUR-NODE-ID.us.gaianet.network/v1", api_key="")

Ngoài ra, bạn có thể đặt một biến môi trường ở cấp hệ điều hành.

xuất OPENAI_API_BASE=https://YOUR-NODE-ID.us.gaianet.network/v1

Sau đó, khi bạn thực hiện lệnh gọi API từ khách hàng, hãy đảm bảo rằng mẫu được đặt thành tên model có sẵn trên nút của bạn.

response = client.chat.completions.create(
    model="Meta-Llama-3-8B-Instruct-Q5_K_M",
    messages=[
        {"role": "system", "content": "You are a strategic reasoner."},
            {"role": "user", "content": "What is the purpose of life?"}
        ],
        temperature=0.7,
        max_tokens=500
    ]
)

Đó là nó! Bây giờ bạn có thể lấy bất kỳ ứng dụng nào được xây dựng bằng thư viện OpenAI Python chính thức và sử dụng nút Gaia làm phụ trợ của nó!

Thư viện API OpenAI Node

Bạn có thể cài đặt thư viện OpenAI Node cung cấp quyền truy cập thuận tiện vào OpenAI REST API từ TypeScript hoặc JavaScript như sau:

npm cài đặt openai

Nhập nó vào dự án của bạn dưới dạng:

Ví dụ sử dụng trong Node.js
const OpenAI = yêu cầu ('openai');

Tạo ứng dụng khách OpenAI với URL cơ sở tùy chỉnh. Hãy nhớ gắn thêm /v1 sau tên máy chủ.

const client = new OpenAI({
  baseURL: 'https://YOUR-NODE-ID.us.gaianet.network/v1',
  apiKey: '' // Leave this empty when using Gaia
});

Ngoài ra, bạn có thể đặt biến môi trường bằng cách sử dụng Dotenv trong Node.

process.env.OPENAI_API_BASE = 'https://YOUR-NODE-ID.us.gaianet.network/v1';

Sau đó, khi bạn thực hiện lệnh gọi API từ khách hàng, hãy đảm bảo rằng mẫu được đặt thành tên model có sẵn trên nút của bạn.

async function callOpenAI() {
  try {
    const response = await client.chat.completions.create({
      model: "Meta-Llama-3-8B-Instruct-Q5_K_M",
      messages: [
        { role: "system", content: "You are a strategic reasoner." },
        { role: "user", content: "What is the purpose of life?" }
      ],
      temperature: 0.7,
      max_tokens: 500
    });

    console.log(response.choices[0].message.content);
  } catch (error) {
    console.error('Error:', error);
  }
}

//Usage
callOpenAI();