Re: [洽特] 有關如何自建本地AI聊天機器人

作者: driftcreator (小雷)   2024-11-14 12:58:43
現在最強的LLM對話前端平台,應該是韓國製品RisuAI,只是在英文系的社群平台不夠紅
開源,使用者友善的UI介面、有Web端(可以用手機玩),功能豐富程度僅次於ST
可惜的是Mod沒有,我猜都放在贊助後加入的discord上面了
https://risuai.net/
RisuAI最神的是,平台上一堆用愛發電的作者用Regex寫卡片,這在其他平台非常稀少
SillyTavern也有支援Regex,但因為RisuAI是角色卡內容+資料庫+語法直接綁一包
與其花時間手動移植,還不如加入RisuAI,平台上直接一鍵下載省事
Regex可以實現的功能像是
.直接在每次回應輸出立繪卡,還能翻面看狀態 https://imgur.com/a/R5CZiKR
.在底部生成一個小表格,紀錄你的狀態、裝備 https://imgur.com/a/jTa6BF6
.能輸入指令直接啟用特殊事件 https://imgur.com/a/gZpXb6T
.官網例圖。但我找不到實裝卡片 https://imgur.com/a/FYHmQ7g
且雖然韓國使用者不少,但卡片仍用英文建構,且不少還內建多語言的初始對話
支援通用V2 png格式,所以其他平台的角色卡、資料庫也能直接匯進去
作者: MrJB (囧興)   2024-11-14 13:02:00
感覺好難
作者: Rosor (我就是城武 別再問了)   2024-11-14 23:20:00
這個有支援本地模型嗎
作者: driftcreator (小雷)   2024-11-14 23:30:00
Ollama, Kobold, llama.cpp都是執行本地模型的後端但Regex加持的增強卡片,小模型會比較容易輸出跑歪
作者: chiekat (chiekat)   2024-11-15 18:11:00
各LLM對數值的追蹤表現還好嗎,之前在 sillytavern reddit 爬文得到的回覆都不太樂觀
作者: driftcreator (小雷)   2024-11-16 00:03:00
越大越聰明的模型,越能相對有效追蹤參數跟細節
作者: LaPass (LaPass)   2024-11-16 00:51:00
感謝

Links booklink

Contact Us: admin [ a t ] ucptt.com