跳至主要内容

· 閱讀時間約 3 分鐘
Yung-Hsiang Hu

即使地端沒有下載模型，也可以利用 Kuwa 串接雲端模型進行聊天及 RAG 應用。 本文將協助您了解如何申請 Google 免費的 Gemini Pro API Key ，以及如何在 Kuwa 進行設定。

申請 Gemini Pro API Key​

  1. 前往 Google AI Studio - Get API key，點擊 "Get API key"

· 閱讀時間約 3 分鐘
Yung-Hsiang Hu

v0.3.0 新增了 RAG toolchain，讓使用者可以將本機文件資料夾透過簡易拖拉的方式，建立成自有的向量資料庫並進行問答，
本文將協助您了解如何透過 Kuwa 的 RAG toolchain 建立自有向量資料庫與相關 Bot。

Windows 版教學​

警告
  1. 目前僅支援英文路徑的文件，請確保文件的路徑沒有中文
  2. 若先前已經安裝過 Kuwa，請將 C:\kuwa\GenAI OS\windows\packages\xpdf-tools-win-4.05 目錄刪除，並重新執行 C:\kuwa\GenAI OS\windows\build.bat
  1. 將單一文件或是文件目錄拖曳至桌面的 Create VectorDB 捷徑上，以這個腳本開啟。如果沒有這個捷徑的話可以將文件拖曳至 C:\kuwa\GenAI OS\windows\construct_rag.bat

· 閱讀時間約 3 分鐘
Yung-Hsiang Hu

v0.3.0 新增了 SearchQA，可透過串接 Google search 進行組織網站問答。
本文將協助您了解如何建置 SearchQA。

申請Google API key​

警告

Google search API 目前每日免費額度為每日100次，請注意用量

  1. 前往 Google 程式化搜尋引擎建立頁面，填入以下資訊以建立自訂搜尋引擎

· 閱讀時間約 6 分鐘
Ching-Pao Lin

在最新的0.3.0釋出版本當中，我們最主要新增了Bot功能，
現在你可以在網站上創建不同的Bot，而這篇文章會一步步教你如何建置自己的Bot！

首先，您會看到有個Store的專區
\

· 閱讀時間約 1 分鐘
Yung-Hsiang Hu

這篇貼文會教您如何將 Kuwa TAIDE v0.2.0 的內建模型從 TAIDE-LX-7B-Chat-4bit 升級為 Llama3-TAIDE-LX-8B-Chat-Alpha1-4bit。

  1. 進入 C:\kuwa\GenAI OS\windows\executors 下，並將 1_taide 目錄複製成 1_taide-8b。如果只需要執行新版 TAIDE 模型的話，可以將 1_taide 內的 run.bat 檔案刪除

  2. 從 TAIDE 官方 HuggingFace Hub下載 taide-8b-a.3-q4_k_m.gguf 到 C:\kuwa\GenAI OS\windows\executors\1-taide_8b 目錄中，並將原本的 taide-7b-a.2-q4_k_m.gguf 刪除

· 閱讀時間約 4 分鐘
Yung-Hsiang Hu

一、取得模型​

方法一：登入 HuggingFace 向 Meta 申請存取權限​

  1. 登入 HuggingFace 之後去 https://huggingface.co/meta-llama/Meta-Llama-3-8B-Instruct 申請 meta-llama/Meta-Llama-3-8B-Instruct 的存取權限 (約一小時內會審核通過)
  2. 若出現如下圖的 “You have been granted access to this model” 字樣，即表示已取得模型存取權限，可以下載模型

· 閱讀時間約 3 分鐘
Yung-Hsiang Hu

一、取得模型​

方法一：登入 HuggingFace 向 Meta 申請存取權限​

  1. 登入 HuggingFace 之後去 https://huggingface.co/meta-llama/Meta-Llama-3-8B-Instruct 申請 meta-llama/Meta-Llama-3-8B-Instruct 的存取權限 (約一小時內會審核通過)
  2. 若出現如下圖的 “You have been granted access to this model” 字樣，即表示已取得模型存取權限，可以下載模型

· 閱讀時間約 2 分鐘
Yung-Hsiang Hu

Hi Humans! Welcome to Kuwa!
嗨，人類您好！👋 歡迎來到Kuwa！🤖

Kuwa GenAI OS是一個自由、開放、安全且注重隱私的生成式人工智慧服務系統，包括友善的大語言模型使用介面，以及能支援生成式人工智慧應用的新型GenAI核心。

主要特色如下：

  1. 🌐 提供多語言GenAI開發與部署的整體解決方案，支援Windows及Linux
  2. 💬 提供群聊、引用、完整 Prompt 列表的匯入/匯出/分享等友善使用功能
  3. 🔄 可靈活組合 Prompt x RAGs x Bot x 模型 x 硬體/GPUs以滿足應用所需
  4. 💻 支援從虛擬主機、筆記型電腦、個人電腦、地端伺服器到公私雲端的各種環境
  5. 🔓 開放原始碼，允許開發人員貢獻並根據自己的需求打造自己的客製系統

Kuwa系統是在國科會「TAIDE可信任AI對話引擎」計畫的支持下投入開發，已實際做為TAIDE計畫展示及開發測試平台，以及在其它多個應用場域進行使用。

我們是來自高雄大學資工系的學生及系友組成的團隊，希望讓大家都可以有自己的AI開發或服務平台。目前Kuwa系統還有許多進步空間，竭誠歡迎您加入Kuwa開源社群參與此開源計畫 🙌，一起進入GenAI的新時代。

官網： https://kuwaai.tw/
中文： https://kuwaai.tw/zh-Hant/