文科生也能輕鬆實現！自建自用大語言模型（LLM）：無痛操作Ollama本機端模型管理器

　　你已厭煩ChatGPT的諸多限制嗎？斷網不能用、網速明顯拖慢回應、敏感話題不回應、免費額度很快用完、回應答案經常飄忽受誤導等，對此打造本機端的大語言模型將可化解、緩解上述限制，如同直接將ChatGPT搬回家，成為你專屬的知識服務。

　　毫無疑問！生成式人工智慧（GenAI）、大語言模型（LLM）正在重新定義人類的創意、生產力價值程序，善用GenAI∕LLM者視其為利器，不善用者視其為威脅挑戰，各位正處於這樣的十字路口。

　　與此同時GenAI∕LLM也讓人疑慮，包含過程機理難懂如黑箱、答案時而確切、時而玄幻等，這又當如何駕馭？加上公眾版GenAI∕LLM服務有諸多限制，使人想善用、駕馭GenAI∕LLM卻又躊躇不前。

　　本書正是為上述痛點而撰，從入門認知到操作實務一路引導、自建自用模型，回頭再望時，各位已是GenAI∕LLM的初階能手。

　　本書目標讀者設定為高中職畢業、大學文科生畢業，並從最初步認知開始，隨即切入最快速獲得實務成就感的程序操作，而後回頭完整解釋操作中的細節機理。

　　更之後返回到基礎認知，瞭解今日常言的Llama、DeepSeek等知名大語言模型，提供繁體中文模型的選擇建議，並透過模型參數量以初估電腦的硬體資源需求等。

　　在認知與實務均站穩腳步後，以此為基礎進行擴展延伸，實務面進入檢索增強生成（RAG）以加強模型回應精準性，並進入多模態（Multimodal）模型、視覺語言模型（VLM），認知面也引領介紹多款與Ollama相仿的本機端模型管理軟體。

　　最後，這一切都還在積極發展中，仍有諸多待完備之處，故末章將給予提醒與關注建議，包含資訊技術走向、社會倫理走向。至於意猶未盡者也可以進一步參考附錄，讓認知更為加深，同時為後續有更多準備。

本書特色

　　協助你建立專屬的知識平台
　　你要求任何的AI平台（大語言模型）寫一份市場分析，它去網路上搜尋整理一番，產出一套言之成理，但是和你或是你的公司沒有什麼關係的文章。這樣的人工智慧雖然很炫，但是有什麼用？

　　如果你可以把和公司相關的資訊儲存在指定場所，要大語言模型先參考你指定的資訊，再參考外部的資訊，那麼就能產生合乎你本意的內容。

　　這樣的資訊累積得越多，你建構的大語言模型就越可以反應你的思維。好比你任用一個員工，剛開始時，他不知你要的是什麼、如何依公司的情況做出處置，但是時間久了，你就可以放手讓它處理。

　　文科高中生也可以看得懂
　　本書在寫作初始已將目標讀者群設想為高中職畢業生、大學文科生，因此在本書輕鬆簡單又直覺的指引下，也可以自建人工智慧模型（大型語言模型）。

　　本書透過程序說明，以最快速、直接、直覺簡單的方式在自己的電腦上建構起一套大語言模型系統，系統將能回應人們對它發出的問題。初步回覆答案或許仍不夠精準，但已經達到初步對話互動效果。

　　提供調整、提升人工智慧模型的相關資訊，讓你超有成就感。
　　在本地端建立大語言模型後，尚有諸多細部設定等待調整，如為增加操作介面親和性而加裝Page Assist，以處理介面調整、搜尋引擎切換、管理模型、管理對話、版本檢視等細部調整。另外也說明如何透過檢索增強生成（RAG），讓模型的理解更清晰、回話更精準。

<序>

序言

　　2022年11月OpenAI公司在Internet上開放大眾使用ChatGPT服務後，立刻引起眾人驚豔，ChatGPT能夠用人性化的口吻回覆眾人提問，表現明顯勝過今日常見的線上聊天機器人（Chatbot）。

　　既然可人性化、口語化回覆，眾人很自然開始期待用ChatGPT取代現今大宗的搜尋引擎（Search Engine）服務，對於疑問不再只是打關鍵字（Key Word）來找出幾個看似答案的網址，然後再人工爬文才能了解是否是想要的答案，而是直接以回話方式給我答案。

　　不僅是聊天機器人、搜尋引擎，近年來常用的手機語音助理、家用智慧喇叭（Smart Speaker）等的回覆智慧度也同樣有限，經常是答非所問或鬼打牆（反覆給出數個常見答案），這類服務若能提升到與ChatGPT相似的水準，將會是眾人的福音。

　　不過，ChatGPT畢竟是線上服務，在多人共用下很容易被其他人誤導，答案會出現偏差，難以一致，而且線上服務也會將對話加以記錄、進行分析，以利ChatGPT後續改進，或可能有其他未經用戶許可的運用，如此也不便與ChatGPT過於私密交談，如談及信用卡卡號、公司商業機密等。

　　其他困擾也包含一旦斷網服務就無法使用，或太多人同時使用時，服務反應會延遲變慢，加上進階的使用或客製化要求均需要收費等，凡此種種都使人想建立自有自用的大語言模型（Large Language Model，ChatGPT所倚賴的根基技術）系統，從而實現自己的ChatGPT服務。

　　本書即是為了讓各位能夠打造自己的大語言模型系統、自己個人（也包含自有家庭、所屬企業）的ChatGPT服務而寫，期望各位既能享受人性智慧回話的便利，同時不用付費、不用洩漏個人隱私或公司機密、回話反應不受Internet變慢或斷線影響、不受不知名者誤導回話等。為了讓各位以最平順快速的方式實現自有的大語言模型，本書依如下章節架構撰寫。

　　第1章 大語言模型技術發展基礎認知

　　何謂大語言模型？為何能讓資訊系統回話比過往大幅人性智慧？除了回話外，還能提供哪些服務？又何謂多模態（Multimodality）人工智慧…等，本章將針對大語言模型的基本認知進行說明。

　　第2章 用Ollama快速建立自己的大語言模型

　　透過程序說明，以最快速、直接、直覺簡單的方式在自己的電腦上建構起一套大語言模型系統，系統將能回應人們對它發出的問題，初步回覆答案或許仍不夠精準但已經達到初步對話互動效果。

　　第3章 Ollama細部設定調整

　　Ollama初步建立後尚有諸多細部設定等待調整，特別是為其加裝親和性的操作介面Page Assist，以便後續的相關操作能更為直覺快速，省去諸多手動輸入的繁瑣程序。

　　第4章 認知Ollama現行可用的模型

　　在Ollama官方網站上有上百款的模型可供選擇，哪些是新模型？哪些是熱門模型？模型有哪些類型？提供哪幾種參數版本？本章將逐步引導瞭解箇中差異，並概要計算模型可能的系統需求佔量。

　　第5章 Ollama現行主要模型認知

　　現階段大語言模型多又多，即便在Ollama上也有上百款選擇，到底哪些是知名、指標性的模型，其背景淵源為何？本章將針對7個現階段具業界代表性的系列模型進行說明。

　　第6章 Page Assist基礎操作設定

　　在建立初步互動性後，Ollama的主要介面搭配軟體Page Assist尚有諸多須知的操作功能，如介面調整、搜尋引擎切換、管理模型、管理對話、版本檢視等，均在此章說明。

　　第7章 檢索增強生成與視覺模型

　　因技術與預算之限，無法對開放模型再次訓練、微調下，如何讓模型的理解更清晰、回話更精準，現階段業界倡議引入檢索增強生成機制，本章將說明如何透過Page Assist建立起RAG。

　　第8章 與Ollama相仿或搭配的軟體

　　Ollama並非是唯一的本機端大語言模型軟體，包含Page Assist也不是唯一能與Ollama搭配的介面操作軟體，本章將說明更多相似的軟體並說明其安裝程序，同時也概略說明現行優缺點。

　　第9章 建議與展望

　　大語言模型的技術與服務仍在多元開展中、快速進步中，其想像應用空間巨大，對此將點出數個具潛在未來性、值得持續關注的趨勢方向，期指引大語言模型的用戶持續精進提升。

　　附錄

　　附錄補充不在本書主軸說明內的重要認知，包含更機理性的說明大語言模型技術發展歷程，以及如何更量化公允客觀的評判模型的表現，從而更明確選擇模型。

　　雖然大語言模型帶來驚豔，但現階段也有諸多挑戰與限制，如前後回話不一致、幻覺等，即今日常言的「一本正經胡說八道」，同時各國政府也開始重視人工智慧技術可能產生的歧視與濫用、誤用，要求其應用具有可解釋性、可問責，在應用之初就必須對偏差錯誤產生的損失傷害等提出配套的解決、緩解方案。

　　因此，在享受與運用大語言模型的同時，也希望大眾能謹慎運用，時時抱持懷疑態度並進行細節確認，以此共勉。