Chuyển đến nội dung chính
Phiên bản: 2.0.0

Biến đổi + Gaia

Bạn có thể cấu hình khung Dify bằng bất kỳ nút Gaia nào làm API LLM phụ trợ. Điều đó cho phép bạn sử dụng các nút Gaia của riêng bạn hoặc cộng đồng trong bất kỳ ứng dụng nào được xây dựng trên Dify. Nó hỗ trợ

  • Dịch vụ Dify.ai được lưu trữ.
  • Các sản phẩm và dịch vụ có khung Dify nhúng, chẳng hạn như dự án Terminus .
  • Bất kỳ sản phẩm nào được xây dựng trên khung Dify mã nguồn mở.

Bước

Đầu tiên, đăng nhập vào cổng thông tin web của Dify và chọn Cài đặt | Nhà cung cấp mô hình. Từ danh sách, bạn có thể thêm nhà cung cấp tương thích OpenAI-API.

Thêm mô hình LLM có tên modela và điểm cuối API được liệt kê trên bảng điều khiển web của nút Gaia. Hoặc, bạn có thể chỉ cần thêm một nút Gaia phổ biến . Để trống trường Khóa API.

Cấu hình mô hình Gaia Llama3 8b trong Dify

Hầu hết các ứng dụng Dify cũng yêu cầu một mô hình nhúng để tìm kiếm văn bản trong không gian vector. Thêm một mô hình nhúng với tên modela và điểm cuối API được liệt kê trên bảng điều khiển web của nút Gaia của bạn. Hoặc, bạn có thể chỉ cần thêm một nút Gaia phổ biến . Để trống trường Khóa API.

Cấu hình mô hình nhúng Gaia trong Dify

Vậy là xong. Bây giờ bạn có thể thấy các mô hình mới có sẵn ở bảng điều khiển trên cùng của Dify cho mọi chatbot hoặc tác nhân. Chỉ cần chọn mô hình Gaia của bạn để trò chuyện hoặc nhúng và ứng dụng Dify sẽ tự động sử dụng nó!

Chọn một nút Gaia làm mô hình phụ trợ trong Dify

Trò chuyện với người mẫu Gaia Llama3 8b trong Dify