如何在 Windows 计算机上本地安装和运行 Llama 3.1 大型语言模型 (LLM)

在本大型语言和 Llama 教程中，我们将介绍如何在本地 Windows 计算机上安装和运行 Llama 3.1。我们将介绍如何在 Windows 中从命令提示符窗口运行 Llama。Llama 3.1 是 LLM，是 ChatGPT 的替代品。

背景信息

Llama 是 Meta AI（前身为 Facebook，于 2023 年 2 月）发布的 LLM 系列。Llama 的最新版本是 Llama 3.1，根据测试，它的表现优于其他 LLM。此外，较小的模型可以在计算机上本地运行。我们将首先安装 Ollama 来安装 Llama，Ollama 是一个开源 AI 程序，使我们能够在机器上本地运行 LLM。它可以看作是 LLM 的 Docker 版本。下面给出了 YouTube 教程，解释了如何安装 Llama 3.1 以及如何在本地计算机上运行 Llama 3.1。

安装过程如下所述。

步骤 1：下载并安装 Ollama

我们首先安装 Ollama，这样我们就可以在本地运行 LLM。转到ollama.com，然后单击下载以下载 Ollama，以便我们可以从命令提示符运行 Llama 3.1。安装文件。

Ollama 将自动安装并运行。您将在屏幕右下角看到一个小的 Ollama 图标。如果 Ollama 没有自动运行，请单击“开始”并搜索 Ollama，然后运行 ​​Ollama。

步骤 2：安装 llama 3.1 模型并运行它

然后点击右上角的“模型”，

然后在 Llama 3.1

然后，选择型号（在我们的例子中是 8GB），并复制并粘贴命令：ollama run llama3.1

然后，单击“开始”，搜索“命令提示符”，然后在命令提示符中输入
ollama run llama3.1 。第一次运行此命令时，它会自动下载模型，之后您将看到 Llama 3.1 提示符。在这里，您可以开始提问。下次运行此命令时，它将自动加载 Llama 提示符，以便您可以开始提问。