LlamaGia sư
LlamaTutor là ứng dụng TypeScript sử dụng Llama 3.1 để hoạt động như một gia sư cá nhân AI nguồn mở. Khi bạn chạy ứng dụng, ứng dụng sẽ yêu cầu LLM tìm kiếm trên web dựa trên chủ đề yêu cầu của bạn và sau đó tạo nội dung để bạn học.
Chương trình không sử dụng thư viện OpenAI chính thức, chúng ta có thể sử dụng thư viện phân nhánh hỗ trợ sử dụng nút Gaia làm phụ trợ LLM.
Điều kiện tiên quyết
Bạn sẽ cần một nút Gaia sẵn sàng cung cấp dịch vụ LLM thông qua URL công khai. Bạn có thể
Trong hướng dẫn này, chúng ta sẽ sử dụng một nút Llama3 công khai.
| Thuộc tính | Giá trị |
|---|---|
| URL điểm cuối API | https://llama8b.gaia.domains/v1 |
| Tên Model | lạc đà không bướu |
| KHÓA API | Gaia |
Chạy tổng đài viên
Đầu tiên, chúng ta sẽ cần lấy mã nguồn của LlamaTutor phân nhánh
https://github.com/JYC0413/llamatutor.git sao chép Git
CD llamatutor
Tiếp theo, cấu hình .env tệp.
cp .example.env .env
Bạn sẽ cần cấu hình bốn tham số ở đây.
- SERPER_API_KEY: Khóa API serper để tìm kiếm nội dung trực tuyến. Bạn cũng có thể sử dụng BING_API_KEY tại đây.
- LLAMAEDGE_BASE_URL: URL cho URL cơ sở API LLM.
- LLAMAEDGE_MODEL_NAME: Tên của mô hình sẽ được sử dụng.
- LLAMAEDGE_API_KEY: Khóa API để truy cập các dịch vụ LLM.
Sau đó, chúng ta sẽ cần cài đặt các phụ thuộc cần thiết.
Cài đặt npm
Tiếp theo, hãy chạy ứng dụng cục bộ.
npm chạy dev
Cuối cùng, mở http://localhost:3000 trong trình duyệt của bạn và bắt đầu tìm hiểu.
