如何在安卓手机上运行 llama3.2

一. 下载并安装Termux

        Termux 是一款功能强劲的 Android 终端模拟器和 Linux 环境应用程序，它提供了成熟的 Linux 系统上一般可用的各种工具。 Termux 与其他终端仿真器的区别在于它无需 root 访问即可运行，因此可供更广泛的 Android 用户使用。使用 Termux，您可以直接在 Android 设备上安装和运行各种编程语言、工具和软件包，将其变成便携式开发环境。

      1.1.  Termux 下载并安装

            https://github.com/termux/termux-app/releases 

            这里我们选择下载termux-app_v0.119.0-beta.1+apt-android-7-github-debug_arm64-v8a.apk

      1.2.  Termux 环境配置

            启动 Termux 后，您将看到类似于常规 Linux 终端的界面。您可以在手机上打开本文，轻松复制后面的许命令。

接下来，我们需要运行以下命令：  termux-setup-storage

运行该命令后，会出现系统权限提示。单击Allow permission，然后按后退按钮继续。

接下来，运行命令： pkg upgrade

执行过程中，需要输入Y继续更新程序，

在这里，只需按Enter即可继续。

 更新完成后， 安装环境所需的软件包：  pkg install git cmake golang

二.  编译并安装Ollama

         将代码从Ollama 的Github存储库克隆到手机

               git clone –depth 1 https://github.com/ollama/ollama.git 

        接下来，进入ollama 文件夹并构建ollama

              cd ollama

              go generate ./…

        操作成功后， 您就会看到

        接下来， 编译代码为可执行二进制文件

                go build .

       然后在后台启动Ollama 服务器：

              ./ollama serve &

      此时， 通过运行ls ，可以看到 ollama 已创建可执行文件

            最后， 清理编译环境，并将ollama 移动到 termux的PATH, 这样就可以随时在终端中运行 ollama了

               chmod -R 700~/go

                rm -r ~/go

               cp ollama/ollama  /data/data/com.termux/files/usr/bin           

三.  运行Llama3.2

          运行如下命令，启动llama3.2模型，这里使用1b， 内存大的可以将1b 调整为3b。 这里–verbose 可选，用于在模型执行期间启用详细的日志记录， 可以省略

             ./ollama run llama3.2:1b –verbose