Sách LlamaEdgeBook
LlamaEdgeBook, được phân nhánh từ GroqBook, là một công cụ mã nguồn mở hỗ trợ việc tạo sách từ lời nhắc một dòng bằng cách sử dụng LLM mã nguồn mở. Bạn có thể định cấu hình khung LlamaEdgeBook bằng bất kỳ nút Gaia nào làm API LLM phụ trợ.
Bước
Đầu tiên, lấy mã nguồn của LlamaEdgeBook. Mở thiết bị đầu cuối của bạn và nhập dòng lệnh sau.
https://github.com/second-state/LlamaEdgeBook sao chép Git
cd LlamaEdgeBook
Đảm bảo bạn đã cài đặt Python 3.11 trở lên. Sau đó, cài đặt các gói cần thiết:
pip cài đặt -r requirements.txt
Tiếp theo, hãy cấu hình nút Gaia làm phần phụ trợ LLM.
xuất OPENAI_BASE_URL="https://llama8b.gaia.domains/v1"
xuất OPENAI_MODEL_NAME="llama"
xuất OPENAI_API_KEY="GAIANET"
Gợi ý: nếu bạn không biết tên mô hình của nút Gaia, bạn có thể lấy thông tin mô hình bằng cách sử dụng:
curl -X POST https://0x57b00e4f3d040e28dc8aabdbe201212e5fb60ebc.us.gaianet.network/v1/models
Sau đó, sử dụng dòng lệnh sau để chạy ứng dụng.
Streamlit Run main.py
Khi ứng dụng chạy thành công, thiết bị đầu cuối sẽ xuất ra các thông tin sau.
Thu thập số liệu thống kê sử dụng. Để hủy kích hoạt, hãy đặt browser.gatherUsageStats thành false.
Giờ đây, bạn có thể xem ứng dụng Streamlit trong trình duyệt của mình.
URL địa phương: http://localhost:8501
URL mạng: http://10.128.0.8:8501
URL ngoài: http://35.222.115.181:8501
Cuối cùng, bạn có thể mở http://localhost:8501
trong trình duyệt của bạn để tạo sách.
Trước tiên, LlamaEdgeBook sẽ tạo dàn ý dựa trên lời nhắc của bạn, sau đó tạo nội dung chương dựa trên dàn ý.
Bạn cũng có thể tải xuống sách sau khi quá trình tạo hoàn tất.