首页 > Ai资讯 > Ai教程 > 本地部署 Llama3.1 最强开源大模型！支持 Windows、MacOS

本地部署 Llama3.1 最强开源大模型！支持 Windows、MacOS

发布时间：2024年07月30日

4439

1.本地电脑安装的硬件要求：​

​Windows：3060以上显卡+8G以上显存+16G内存，硬盘空间至少20G

Mac：M1或M2芯片 16G内存，20G以上硬盘空间

在开始之前，首先我们需要安装Ollama客户端，来进行本地部署Llama3.1大模型

官方下载：【点击前往】

安装命令：

安装llama3.1-8b，至少需要8G的显存，安装命令就是

Plain text
Copy to clipboard
Open code in new window
EnlighterJS 3 Syntax Highlighter
ollama run llama3.1:8b
ollama run llama3.1:8b
ollama run llama3.1:8b

安装llama3.1-70b，至少需要大约 70-75 GB 显存，适合企业用户，安装命令就是

Plain text
Copy to clipboard
Open code in new window
EnlighterJS 3 Syntax Highlighter
ollama run llama3.1:78b
ollama run llama3.1:78b
ollama run llama3.1:78b

安装llama3.1-405b，这是一个极其庞大的模型，安装和运行它在本地需要非常高的显存和硬件资源，至少需要大约 400-450 GB 显存，适合顶级大企业用户，安装命令就是

Plain text
Copy to clipboard
Open code in new window
EnlighterJS 3 Syntax Highlighter
ollama run llama3.1:405b
ollama run llama3.1:405b
ollama run llama3.1:405b

 

2.如果你没有可运行的显卡，那么可以在Huggingface平台上使用，因为huggingFace 上已经托管了Llama3.1大模型，现在完全免费使用！

【链接直达】

 

如果你想要了解关于智能工具类的内容，可以查看 智汇宝库，这是一个提供智能工具的网站。
在这你可以找到各种智能工具的相关信息，了解智能工具的用法以及最新动态。

重磅！Meta开源4050亿参数的大模型Llama3.1-405B！多项评测结果超GPT-4o和Claude3.5 SonnetOpenAI 正式发布其搜索引擎 SearchGPT 原型！附最新开通链接