Sách LlamaEdgeBook
LlamaEdgeBook, được phân nhánh từ GroqBook, là một công cụ mã nguồn mở giúp tạo sách từ lời nhắc một dòng bằng LLM nguồn mở. Bạn có thể định cấu hình khung LlamaEdgeBook bằng bất kỳ nút GaiaNet nào làm API LLM phụ trợ.
Bước
Đầu tiên, lấy mã nguồn của LlamaEdgeBook. Mở thiết bị đầu cuối của bạn và nhập dòng lệnh sau.
https://github.com/second-state/LlamaEdgeBook sao chép Git
cd LlamaEdgeBook
Đảm bảo bạn đã cài đặt Python 3.11 trở lên. Sau đó, cài đặt các gói cần thiết:
pip cài đặt -r requirements.txt
Tiếp theo, hãy cấu hình nút GaiaNet làm phụ trợ LLM.
xuất OPENAI_BASE_URL="https://gemma.us.gaianet.network/v1"
xuất OPENAI_MODEL_NAME="gemma"
xuất OPENAI_API_KEY="GAIANET"
Gợi ý: nếu bạn không biết tên model của nút GaiaNet, bạn có thể truy xuất thông tin mô hình bằng cách:
curl -X POST https://0x57b00e4f3d040e28dc8aabdbe201212e5fb60ebc.us.gaianet.network/v1/models
Sau đó, sử dụng dòng lệnh sau để chạy ứng dụng.
Streamlit Run main.py
Khi ứng dụng chạy thành công, thiết bị đầu cuối sẽ xuất ra các thông tin sau.
Thu thập số liệu thống kê sử dụng. Để hủy kích hoạt, hãy đặt browser.gatherUsageStats thành false.
Giờ đây, bạn có thể xem ứng dụng Streamlit trong trình duyệt của mình.
URL địa phương: http://localhost:8501
URL mạng: http://10.128.0.8:8501
URL ngoài: http://35.222.115.181:8501
Cuối cùng, bạn có thể mở http://localhost:8501
trong trình duyệt của bạn để tạo sách.
Trước tiên, LlamaEdgeBook sẽ tạo dàn ý dựa trên lời nhắc của bạn, sau đó tạo nội dung chương dựa trên dàn ý.
Bạn cũng có thể tải xuống sách sau khi quá trình tạo hoàn tất.