手機(jī)掃描下載
應(yīng)用指數(shù)：5 分
qq音樂linux客戶端150.96linux軟件
騰訊文檔linux客戶端234Mlinux軟件
LXmuSiC洛雪音樂播放器linux版471.90Mlinux軟件
gparted分區(qū)工具553.90Mlinux軟件
百度網(wǎng)盤Linux版本98.40Mlinux軟件
ubuntu桌面版和服務(wù)器版5427.20Mlinux軟件
谷歌瀏覽器linux版本111.89Mlinux軟件
qq linux版本linux軟件
wps office linux版本648.48Mlinux軟件
騰訊會(huì)議Linux版本linux軟件
騰訊視頻linux客戶端47.87Mlinux軟件
搜狗輸入法linux版本318.59Mlinux軟件
應(yīng)用介紹應(yīng)用截圖相關(guān)版本網(wǎng)友評(píng)論下載地址
更多l(xiāng)inux版本，可以查看：https://github.com/ollama/ollama/releases/tag/v0.9.0（若打不開，需要加速器或科學(xué)上網(wǎng)工具）
ollama github linux安裝包部署到本地之后，就可以實(shí)現(xiàn)linux系統(tǒng)上運(yùn)行deepseek，目前deepseek要想在電腦上運(yùn)行，就需要搭配ollama使用，但是注意，部分用戶ollama安裝deepseek失敗，主要原因是大家下載了不匹配的大模型，大家務(wù)必要根據(jù)電腦的配置和內(nèi)存，下載和部署對(duì)應(yīng)的模型版本。
Ollama支持多種不同的硬件加速選項(xiàng)，包括純CPU推理和各類底層計(jì)算架構(gòu)，如AppleSilicon。這使得Ollama能夠更好地利用不同類型的硬件資源，提高模型的運(yùn)行效率。作為一個(gè)開源框架，專門設(shè)計(jì)用于在本地運(yùn)行大型語言模型。它的主要特點(diǎn)是將模型權(quán)重、配置和數(shù)據(jù)捆綁到一個(gè)包中，從而優(yōu)化了設(shè)置和配置細(xì)節(jié)，包括GPU使用情況，簡化了在本地運(yùn)行大型模型的過程。Ollama支持macOS和Linux操作系統(tǒng)，并且已經(jīng)為Windows平臺(tái)發(fā)布了預(yù)覽版。Ollama的一個(gè)重要優(yōu)勢是其易用性。安裝過程簡單，例如在macOS上，用戶可以直接從官網(wǎng)下載安裝包并運(yùn)行。對(duì)于Windows用戶，官方推薦在WSL2中以Linux方式使用命令安裝。安裝完成后，用戶可以使用命令行工具來下載和運(yùn)行不同的模型。Ollama還提供了對(duì)模型量化的支持，這可以顯著降低顯存要求。例如，4-bit量化可以將FP16精度的權(quán)重參數(shù)壓縮為4位整數(shù)精度，從而大幅減小模型權(quán)重體積和推理所需顯存。這使得在普通家用計(jì)算機(jī)上運(yùn)行大型模型成為可能。
Ollama的項(xiàng)目結(jié)構(gòu)主要包括以下部分：
api：用Go編寫的客戶端API庫。
discover：負(fù)責(zé)掃描系統(tǒng)中的可用模型、加載配置文件，或者幫助用戶查找符合特定需求的模型。
docs：項(xiàng)目的文檔目錄,包括安裝步驟、API文檔、常見問題解答（FAQ）和示例代碼等。
envconfig：包含環(huán)境配置文件或腳本
format：用于單位和時(shí)間的格式處理的工具。
app：桌面應(yīng)用程序（主要是一個(gè)托盤）。
auth：用于用戶身份驗(yàn)證，確保只有授權(quán)用戶才能訪問特定的功能或模型。
cmd：命令和相關(guān)的處理程序。
convert：用于將不同的模型格式轉(zhuǎn)換為Ollama可以使用的格式
integration：用于將Ollama與其他系統(tǒng)或應(yīng)用程序集成的代碼。這些集成可能包括與Web服務(wù)、數(shù)據(jù)庫、API、第三方服務(wù)、其他框架等的集成。
macapp：mac桌面應(yīng)用程序。
scripts：包含構(gòu)建、測試、發(fā)布等操作所需的腳本文件。確保項(xiàng)目能夠在不同環(huán)境中順利編譯和運(yùn)行。
server：用Go編寫的Web服務(wù)實(shí)現(xiàn)。
version：版本信息。
openai：用于Ollama的OpenAIAPI兼容封裝。
parser：模型信息和消息的解析器。
progress：顯示加載進(jìn)度的實(shí)用程序。
readline:命令輸入工具用于用戶與命令行工具的交互。
Ollama的構(gòu)建系統(tǒng)利用Go提供的構(gòu)建工具，并結(jié)合cmake來處理C/C++部分的編譯。這兩個(gè)構(gòu)建系統(tǒng)共存，以構(gòu)建不同的部分：
CMake：用于構(gòu)建llama.cpp，并提供接口。
Go構(gòu)建系統(tǒng)：編譯、鏈接和打包其余部分，以生成Ollama的應(yīng)用程序和CLI。
核心原理：
獨(dú)立性：強(qiáng)調(diào)在本地環(huán)境中運(yùn)行，減少對(duì)外部網(wǎng)絡(luò)和云服務(wù)的依賴，提高數(shù)據(jù)安全性。
一致性：通過版本控制和依賴管理，確保模型在不同環(huán)境中的一致性和可重復(fù)性。
封裝性：通過容器化技術(shù)，Ollama將模型及其運(yùn)行時(shí)環(huán)境封裝在一起，確保一致的運(yùn)行環(huán)境。
便捷性：通過簡單的CLI工具，用戶可以快速進(jìn)行模型的部署和管理，降低了操作復(fù)雜性。
注意：如果之前已經(jīng)安裝了舊版本的ollama，那么需要先完成手動(dòng)卸載，sudo rm -rf /usr/lib/ollama
遠(yuǎn)程安裝教程
官網(wǎng)提供了一條命令行快速安裝的方法。
curl -fsSL https://ollama.com/install.sh | shCopy to clipboardErrorCopied
此命令將自動(dòng)下載最新版本的 Ollama 并完成安裝
本地安裝教程
一、安裝
1.下載并解壓與操作系統(tǒng)匹配的安裝包
curl -L https://ollama.com/download/ollama-linux-amd64.tgz -o ollama-linux-amd64.tgz
sudo tar -C /usr -xzf ollama-linux-amd64.tgz
Copy to clipboardErrorCopied
AMD GPU下載：
curl -L https://ollama.com/download/ollama-linux-amd64-rocm.tgz -o ollama-linux-amd64-rocm.tgz
sudo tar -C /usr -xzf ollama-linux-amd64-rocm.tgz
Copy to clipboardErrorCopied
ARM 64下載：
curl -L https://ollama.com/download/ollama-linux-arm64.tgz -o ollama-linux-arm64.tgz
sudo tar -C /usr -xzf ollama-linux-arm64.tgz
Copy to clipboardErrorCopied
2.2 啟動(dòng) Ollama并驗(yàn)證
輸入以下命令啟動(dòng) Ollama：
ollama serve
Copy to clipboardErrorCopied
另開啟一個(gè)終端，輸入以下命令，驗(yàn)證ollama是否運(yùn)行成功
ollama -v
Copy to clipboardErrorCopied
2.3 將 Ollama 添加為自啟動(dòng)服務(wù)（推薦）
首先，為 Ollama 創(chuàng)建用戶和組：
sudo useradd -r -s /bin/false -U -m -d /usr/share/ollama ollama
sudo usermod -a -G ollama $(whoami)
Copy to clipboardErrorCopied
然后在該位置：/etc/systemd/system/ollama.service 創(chuàng)建服務(wù)文件
[Unit]
Description=Ollama Service
After=network-online.target
[Service]
ExecStart=/usr/bin/ollama serve
User=ollama
Group=ollama
Restart=always
RestartSec=3
Environment="PATH=$PATH"
[Install]
WantedBy=default.target
Copy to clipboardErrorCopied
最后啟動(dòng)服務(wù)：
sudo systemctl daemon-reload
sudo systemctl enable ollama
Copy to clipboardErrorCopied
三、更新
再次運(yùn)行之前的安裝語句來更新 Ollama：
curl -fsSL https://ollama.com/install.sh | sh
Copy to clipboardErrorCopied
或者重新下載最新的Ollama包：
curl -L https://ollama.com/download/ollama-linux-amd64.tgz -o ollama-linux-amd64.tgz
sudo tar -C /usr -xzf ollama-linux-amd64.tgz
Copy to clipboardErrorCopied
四、安裝特定版本
設(shè)置 OLLAMA_VERSION字段，，可以安裝對(duì)應(yīng)的版本
curl -fsSL https://ollama.com/install.sh | OLLAMA_VERSION=0.5.7 sh
Copy to clipboardErrorCopied
五、查看日志
查看作為啟動(dòng)服務(wù)運(yùn)行的 Ollama 的日志：
journalctl -e -u ollama
刪除 Ollama 服務(wù)：
sudo systemctl stop ollama
sudo systemctl disable ollama
sudo rm /etc/systemd/system/ollama.serviceCopy to clipboardErrorCopied
從 bin 目錄中刪除 Ollama 二進(jìn)制文件： /usr/local/bin,/usr/bin ,/bin
sudo rm $(which ollama)
刪除下載的模型和 Ollama 服務(wù)用戶和組：
sudo rm -r /usr/share/ollama
sudo groupdel ollama
刪除下載的庫文件
sudo rm -rf /usr/local/lib/ollama
ollama serve? ?#啟動(dòng)ollama
ollama create? #從模型文件創(chuàng)建模型
ollama show? ? #顯示模型信息
ollama run? ? ?#運(yùn)行模型
ollama pull? ? #從注冊(cè)表中拉取模型
ollama push? ? #將模型推送到注冊(cè)表
ollama list? ? #列出模型
ollama cp? ? ? #復(fù)制模型
ollama rm? ? ? #刪除模型
ollama help? ? #獲取有關(guān)任何命令的幫助信息
靈犀AI軟件
Vidu AI軟件
lm studio電腦版
小猿ai軟件最新版本
Chatbox ai軟件電腦版
當(dāng)貝ai平臺(tái)電腦版
即夢aiapp官方
智譜清言app
AI搜索引擎官方版
kimi智能助手app官方版
文小言ai軟件
騰訊元寶app
谷歌瀏覽器linux版本111.89Mlinux軟件
紅蓮花安全瀏覽器linux安裝包97.03Mlinux軟件
360安全瀏覽器linux版linux軟件
同花順linux版linux軟件
wps office linux版本648.48Mlinux軟件
微信linux版本linux軟件
谷歌瀏覽器linux版本111.89Mlinux軟件
紅蓮花安全瀏覽器linux安裝包97.03Mlinux軟件
同花順linux版linux軟件
wps office linux版本648.48Mlinux軟件
360安全衛(wèi)士linux版本linux軟件
360安全瀏覽器linux版linux軟件
linux系統(tǒng)