SillyTavern教學（三）

SillyTavern的相關教學。本篇主要說明API、雲端模型與本地模型。

第一章：工欲善其事，必先利其器（二）

官網與API

訂閱各AI官網的方案並不能使用API。

舉例來說，訂閱ChatGPT Go或ChatGPT Plus方案，只能讓你在ChatGPT平台上與AI對話，無法讓你使用API金鑰去SillyTavern與AI對話。

如果你想要在訂閱官網方案的同時，可以體驗一下付費的API，建議可以訂閱Gemini AI Pro方案。
除了能在Gemini平台上使用最新的Gemini模型外，每個月還會有10美金的API額度可以使用（每月依匯率換算成台幣的費用不同，並且要前往Google Developer平台的福利頁面領取）。

※沒有業配。

雲端模型

方便、簡單、快速、聰明，缺點是可能會下架、可能有審查。

目前最常見的雲端模型大概就是GPT、Claude、Gemini。

它們的優點是模型資料多，因此聰明，而且回覆也快速。對於電腦設備不佳的人來說，無疑是最好的選擇。

不過隨著AI不斷升級，主流AI已經開始專心朝寫程式碼的方向發展，在創意寫作方便都不比從前優秀，這點實在很可惜。

除了上述常見的三大家以外，還有一些在國外頗受歡迎的模型，例如：GLM、DeepSeek等等。
其中GLM當初推出時是以RP為主要特色，但同樣隨著時間經過，GLM也已經在朝寫程式碼的方向發展，先前推出新版本時，報告中已經沒有再提到RP相關內容。

儘管如此，雲端模型對喜歡使用繁體中文RP的人來說，必定是最佳的選擇。

目前截至2026/7/12日，我個人最喜歡使用的是Gemini 3.5 flash。

本地模型

免費、無審查、不會下架，缺點是需要高配備裝置，且小模型較笨。

本地模型就是各AI公司免費開放給所有人下載使用的LLM，有些人會以這些LLM為基礎進行微調。

舉例來說，當年最盛行的開源模型是Mistral的12B模型，那時候很多人將這個模型微調成各種適合RP的版本。儘管基礎是一樣的，但微調後的RP風格差異可能很大。

不過，LLM的「B」代表資料集大小，12B可以說是一個較小的模型。這代表它擁有的資料較少，表現可能比較笨，例如它可能很難駕馭同時扮演多個角色。

目前來說，開源模型最令人驚豔的應該是Google發布的Gemma 4。
雖然只有31B，卻能使用繁體中文完美應對。不過它的缺點也很明顯，就是比較容易給出相同的反應與劇情走向。

另外，一般個人消費等級的電腦其實也跑不太動Gemma 4 31B。除了模型會吃顯卡的VRAM外，一次要傳送多少內容給模型也會影響要使用多少記憶體。

而且如果你先使用過那些主流的雲端模型，恐怕也很難接受小模型的表現。不過，現在LLM的技術確實一直在進步，也許將來我們的電腦跑得動的聰明模型會更多。

目前我比較推薦使用Ollama Cloud的免費額度去用Gemma 4 31B。

開源的本地模型可以去Hugging Face下載。