Ứng dụng hệ sinh thái OpenAI

Vì mỗi nút Gaia cung cấp dịch vụ API tương thích với OpenAI, nên nó có thể thay thế OpenAI trong hầu hết các ứng dụng và khuôn khổ LLM. Hãy xem các bài viết trong phần này để biết hướng dẫn và ví dụ về cách sử dụng Gaia trong các ứng dụng LLM phổ biến.

Trăn

Thư viện OpenAI Python

ghi

Hãy chắc chắn thay thế KHÓA_API_CỦA_BẠN_ĐƯỢC_ĐẾN_Đ với bạn khóa API riêng. Để có được khóa API của riêng bạn, hãy làm theo cái này hướng dẫn.

Bạn có thể cài đặt thư viện OpenAI Python chính thức như sau.

pip cài đặt openai

Khi bạn tạo một máy khách OpenAI bằng thư viện, bạn có thể chuyển điểm cuối API dưới dạng base_url. Hãy nhớ gắn thêm /v1 sau tên máy chủ. Bạn có thể tìm thấy danh sách các nút công khai Ở đây.

nhập khẩu openai

 máy khách = openai.OpenAI(base_url="https://ID-NODE-CỦA-BẠN.gaia.domains/v1", api_key="KHÓA_API_CỦA_BẠN_ĐẾN_ĐÂY")

Ngoài ra, bạn có thể thiết lập biến môi trường ở cấp hệ điều hành.

xuất OPENAI_API_BASE=https://ID-NODE-CỦA-BẠN.gaia.domains/v1
 xuất OPENAI_API_KEY=KHÓA_API_CỦA BẠN_ĐƯỢC_ĐẾN_ĐÂY

Sau đó, khi bạn thực hiện lệnh gọi API từ khách hàng, hãy đảm bảo rằng mẫu được đặt thành tên model có sẵn trên nút của bạn.

response = client.chat.completions.create(
    model="Meta-Llama-3-8B-Instruct-Q5_K_M",
    messages=[
        {"role": "system", "content": "You are a strategic reasoner."},
            {"role": "user", "content": "What is the purpose of life?"}
        ],
        temperature=0.7,
        max_tokens=500
    ]
)

Đó là nó! Bây giờ bạn có thể lấy bất kỳ ứng dụng nào được xây dựng bằng thư viện OpenAI Python chính thức và sử dụng nút Gaia làm phụ trợ của nó!

NodeJS

Thư viện API OpenAI Node

ghi

Hãy chắc chắn thay thế KHÓA_API_CỦA_BẠN_ĐƯỢC_ĐẾN_Đ với bạn khóa API riêng. Để có được khóa API của riêng bạn, hãy làm theo cái này hướng dẫn.

Bạn có thể cài đặt thư viện OpenAI Node cung cấp khả năng truy cập thuận tiện vào OpenAI REST API từ TypeScript hoặc JavaScript như sau:

npm cài đặt openai

Nhập nó vào dự án của bạn dưới dạng:

// Ví dụ sử dụng trong Node.js
 hằng số MởAI = yêu cầu ( 'openai' ) ;

Tạo ứng dụng khách OpenAI với URL cơ sở tùy chỉnh. Hãy nhớ gắn thêm /v1 sau tên máy chủ.

const client = new OpenAI({
  baseURL: 'https://YOUR-NODE-ID.gaia.domains/v1',
  apiKey: 'YOUR_API_KEY_GOES_HERE'
});

Ngoài ra, bạn có thể đặt biến môi trường bằng cách sử dụng Dotenv trong Node.

process.env.OPENAI_API_BASE = 'https://ID-NODE-CỦA-BẠN.gaia.domains/v1';

Sau đó, khi bạn thực hiện lệnh gọi API từ khách hàng, hãy đảm bảo rằng mẫu được đặt thành tên model có sẵn trên nút của bạn.

async function callOpenAI() {
  try {
    const response = await client.chat.completions.create({
      model: "Meta-Llama-3-8B-Instruct-Q5_K_M",
      messages: [
        { role: "system", content: "You are a strategic reasoner." },
        { role: "user", content: "What is the purpose of life?" }
      ],
      temperature: 0.7,
      max_tokens: 500
    });

    console.log(response.choices[0].message.content);
  } catch (error) {
    console.error('Error:', error);
  }
}

//Usage
callOpenAI();