跳至主要内容

· 閱讀時間約 3 分鐘
Yung-Hsiang Hu

即使地端沒有下載模型,也可以利用 Kuwa 串接雲端模型進行聊天及 RAG 應用。 本文將協助您了解如何申請 Google 免費的 Gemini Pro API Key ,以及如何在 Kuwa 進行設定。

申請 Gemini Pro API Key

  1. 前往 Google AI Studio - Get API key,點擊 "Get API key"

· 閱讀時間約 3 分鐘
Yung-Hsiang Hu

v0.3.0 新增了 RAG toolchain,讓使用者可以將本機文件資料夾透過簡易拖拉的方式,建立成自有的向量資料庫並進行問答,
本文將協助您了解如何透過 Kuwa 的 RAG toolchain 建立自有向量資料庫與相關 Bot。

Windows 版教學

警告
  1. 目前僅支援英文路徑的文件,請確保文件的路徑沒有中文
  2. 若先前已經安裝過 Kuwa,請將 C:\kuwa\GenAI OS\windows\packages\xpdf-tools-win-4.05 目錄刪除,並重新執行 C:\kuwa\GenAI OS\windows\build.bat
  1. 將單一文件或是文件目錄拖曳至桌面的 Create VectorDB 捷徑上,以這個腳本開啟。如果沒有這個捷徑的話可以將文件拖曳至 C:\kuwa\GenAI OS\windows\construct_rag.bat

· 閱讀時間約 3 分鐘
Yung-Hsiang Hu

v0.3.0 新增了 SearchQA,可透過串接 Google search 進行組織網站問答。
本文將協助您了解如何建置 SearchQA。

申請Google API key

警告

Google search API 目前每日免費額度為每日100次,請注意用量

  1. 前往 Google 程式化搜尋引擎建立頁面,填入以下資訊以建立自訂搜尋引擎

· 閱讀時間約 6 分鐘
Ching-Pao Lin

在最新的0.3.0釋出版本當中,我們最主要新增了Bot功能,
現在你可以在網站上創建不同的Bot,而這篇文章會一步步教你如何建置自己的Bot!

首先,您會看到有個Store的專區
\

· 閱讀時間約 2 分鐘
Yung-Hsiang Hu

大家好,

TAIDE 模型今天釋出了 Llama3-TAIDE-LX-8B-Chat-Alpha1 版,
使用 Kuwa TAIDE 版本的朋友只要更新到最新的 v0.2.1 版本就能體驗最新版的 TAIDE 模型,
這個版本除了更新 TAIDE 模型外,還擴充了地端模型支援,並修正一些小問題,希望能讓大家有更好的使用體驗。

訊息

kuwa-taide-v0.2.1 單一執行檔下載連結: https://dl.kuwaai.org/kuwa-taide/v0.2.1/

· 閱讀時間約 1 分鐘
Yung-Hsiang Hu

這篇貼文會教您如何將 Kuwa TAIDE v0.2.0 的內建模型從 TAIDE-LX-7B-Chat-4bit 升級為 Llama3-TAIDE-LX-8B-Chat-Alpha1-4bit。

  1. 進入 C:\kuwa\GenAI OS\windows\executors 下,並將 1_taide 目錄複製成 1_taide-8b。如果只需要執行新版 TAIDE 模型的話,可以將 1_taide 內的 run.bat 檔案刪除

  2. TAIDE 官方 HuggingFace Hub下載 taide-8b-a.3-q4_k_m.ggufC:\kuwa\GenAI OS\windows\executors\1-taide_8b 目錄中,並將原本的 taide-7b-a.2-q4_k_m.gguf 刪除

· 閱讀時間約 4 分鐘
Yung-Hsiang Hu

一、取得模型

方法一:登入 HuggingFace 向 Meta 申請存取權限

  1. 登入 HuggingFace 之後去 https://huggingface.co/meta-llama/Meta-Llama-3-8B-Instruct 申請 meta-llama/Meta-Llama-3-8B-Instruct 的存取權限 (約一小時內會審核通過)
  2. 若出現如下圖的 “You have been granted access to this model” 字樣,即表示已取得模型存取權限,可以下載模型

· 閱讀時間約 3 分鐘
Yung-Hsiang Hu

一、取得模型

方法一:登入 HuggingFace 向 Meta 申請存取權限

  1. 登入 HuggingFace 之後去 https://huggingface.co/meta-llama/Meta-Llama-3-8B-Instruct 申請 meta-llama/Meta-Llama-3-8B-Instruct 的存取權限 (約一小時內會審核通過)
  2. 若出現如下圖的 “You have been granted access to this model” 字樣,即表示已取得模型存取權限,可以下載模型