1. PTT
  2. Python

[問題] safetensors 轉gguf後 答非所問

作者: gostjoke (鬼笑話)   2024-09-11 10:02:11
不好意思 版上有人遇到這個問題嗎?
我之前準備了一個測試訓練 強化某問題(instruction)
模型是 Chinese llama 1.3B
然後再FT 後可以回答出該問題
但用llama.cpp轉gguf後答案整個歪掉 此外原本的許多問題都答不出來或答非所問
有人遇到這個問題嗎?
作者: DaOppaiLoli (大歐派蘿莉)   2024-09-12 07:32:00
你要不要附上指令參數，可能跟 prompt format 有關
繼續閱讀
[徵求］協助部署flaskaocaoef[問題] Pandas雙條件groupby求取sonicstars[問題] 新手請問第一支程式要在哪裡寫呢?hayato2888[心得] LeetCode家教後，寫程式的執行效率提升goldeneyes[問題] 如何使用Pywin32讀取USB印表機的連線狀態meisu[問題] selenium現在有辦法爬蟲IE嗎?oskens[問題] Django admin後台建立自定義按鈕問題def345[問題] excel兩欄比對的問題mikevadaRe: [問題] 長條圖標題與X軸標籤字體大小調整viskboy[問題] 安裝jupyter 無法執行,想請問如何處理。blassreiter

Links booklink

Contact Us: admin [ a t ] ucptt.com