編輯點評:在本地部署deepseek滿血版。
ChatterUI中文版是一個手機本地部署AI的一個軟件,通過此軟件可以進行使用TTS語音朗讀,導入本地部署AI文件,就可以在手機上使用deepseek模型滿血版,支持多個模型滿足用戶使用需求,對手機性能要求也不是非常高,想在手機上離線使用AI的用戶可以下載。
ChatterUI怎么使用
1、在本站下載ChatterUI;
2、在本站下載本地部署智能體模型;
3、下載完畢以后進入此軟件,點擊三條杠;
4、在這里點擊models;
5、在這里導入本地的模型;
6、導入完畢就可以開始與AI進行對話了;
7、你詢問他問題,不需要聯(lián)網(wǎng)就可以順利使用此軟件。
ChatterUI功能
TTS語音朗讀對話:ChatterlUI配備先進的文本轉(zhuǎn)語音(TTS)功能,能夠?qū)υ拑?nèi)容生動地朗讀出來,為用戶帶來更加便捷、高效的交互體驗。
美觀排版與重點高亮:該應用界面設計簡潔優(yōu)雅,對話內(nèi)容排版清晰、易讀性強。此外,還支持對關(guān)鍵信息進行高亮顯示,助力用戶快速捕捉重點內(nèi)容。
重新生成答案:ChatterlUI賦予用戶高度的自主性,允許對不滿意或不符合預期的答案進行重新生成,從而提供更精準、更貼合需求的回應。
對話內(nèi)容可復制:用戶可以輕松復制對話內(nèi)容,方便后續(xù)引用、整理或分享,極大地提升了使用的靈活性和便捷性。
支持輸出Markdown表格:ChatterlUI支持將對話內(nèi)容以Markdown表格格式輸出,滿足用戶在整理數(shù)據(jù)、撰寫文檔等場景下的多樣化需求。
各大模型介紹
模型文件大小與手機RAM的關(guān)系
根據(jù)我個人的使用經(jīng)驗,對于bartowski老哥的q4質(zhì)量模型,手機RAM大小與可流暢運行的模型文件大小之間存在一定的關(guān)系。具體而言,手機RAM大小除以2再減去1-2GB,即可得到可流暢運行的模型文件大小。
以8GB RAM手機為例,根據(jù)上述公式(8/2-1=3),可以輕松運行3GB大小的模型文件。
最后是3B模型的表現(xiàn):
中文的是Qwen 2.5;英文的是Llama 3.2
Llama 3.2的中文不好,而且上面的問題也不能答對。但是呢,Llama 3.2也很多優(yōu)點,比如理解復雜的提示詞,英語知識庫的質(zhì)量也比較高,不管是健康知識還是其它知識,感覺都比較靠譜。
然后阿里巴巴的Qwen2.5已經(jīng)推出數(shù)學專家模型,代碼專家模型,1.5B的模型數(shù)學也很好,支持中英文混合輸入,大家可以試試用手機離線做數(shù)學題
推薦使用模型:deepseek模型滿血版,可通過特別說明里面的本地模型進行下載。
常見問題與解答
【如何使用ChatterUI?】
很簡單,下載模型到手機以后,先要選擇好系統(tǒng)預設(Llama選Llama,沒有列出來的推薦選ChatML),然后才是導入模型,加載模型。完事!
1、TTS通常是手機自帶的功能。如果沒有,就需要安裝Google TTS(安裝好就自帶en-US離線數(shù)據(jù)),中文語音離線數(shù)據(jù)需要自己安裝TTS以后,在手機設置搜索“TTS”,然后去下載,普通網(wǎng)絡就可以直接下載的(數(shù)據(jù)不到10M)
2、ChatterUI在后臺時間久了,很容易被系統(tǒng)自動釋放內(nèi)存,所以就需要重新Load模型;也可以點“齒輪”,把自動load的選項打開。
3、import導入模型A以后,模型A就有兩份,為了節(jié)約手機空間,可以考慮把原來的模型文件備份到U盤以后,再刪除。
熱門評論
最新評論