Chuyển đến nội dung chính
Phiên bản: 1.0.0

Dify + GaiaNet

Bạn có thể định cấu hình khung Dify bằng bất kỳ nút GaiaNet nào làm API LLM phụ trợ. Điều đó cho phép bạn sử dụng của riêng bạn hoặc các nút GaiaNet cộng đồng trong bất kỳ ứng dụng nào được xây dựng trên Dify. Nó hỗ trợ

  • Dịch vụ Dify.ai được lưu trữ.
  • Các sản phẩm và dịch vụ có khung Dify nhúng, chẳng hạn như dự án Terminus .
  • Bất kỳ sản phẩm nào được xây dựng trên khung Dify mã nguồn mở.

Bước

Đầu tiên, đăng nhập vào cổng thông tin web của Dify và chọn Cài đặt | Nhà cung cấp mô hình. Từ danh sách, bạn có thể thêm nhà cung cấp tương thích OpenAI-API.

Thêm mô hình LLM với tên modela và điểm cuối API được liệt kê trên bảng điều khiển web của nút GaiaNet của bạn. Hoặc, bạn chỉ có thể thêm một nút GaiaNet phổ biến. Để trống trường Khóa API.

Định cấu hình mô hình GaiaNet Llama3 8b trong Dify

Hầu hết các ứng dụng Dify cũng yêu cầu một mô hình nhúng để tìm kiếm văn bản trong không gian vector. Thêm mô hình mebedding với tên modela và điểm cuối API được liệt kê trên bảng điều khiển web của nút GaiaNet của bạn. Hoặc, bạn chỉ có thể thêm một nút GaiaNet phổ biến. Để trống trường Khóa API.

Định cấu hình mô hình nhúng GaiaNet trong Dify

Đó là nó. Bây giờ bạn có thể thấy rằng các mô hình mới có sẵn ở bảng điều khiển trên cùng của Dify cho mọi chatbot hoặc đại lý. Chỉ cần chọn các mô hình GaiaNet của bạn để trò chuyện hoặc nhúng và ứng dụng Dify sẽ tự động sử dụng nó!

Chọn nút GaiaNet làm mô hình phụ trợ trong Dify

Trò chuyện với mô hình GaiaNet Llama3 8b trong Dify