赞
踩
在此博客中,我将展示如何使用 llama.cpp 项目在任何 MacBook Air/Pro M1 或 M2 CPU 中本地运行 LLM。我使用的是全新的 MacBook Air 13 M2,但这应该适用于任何其他型号。
1.1. Open Safari to download Google Chrome
1.2. Install chrome
1.3. Open the terminal
$ git
1.4. Install brew:
从他们的网站下载https://brew.sh/
或者:
$ /bin/bash -c "$(curl -fsSL https://raw.githubusercontent.com/Homebrew/install/HEAD/install.sh)"
然后将brew添加到PATH:
$ echo 'eval "$(/opt/homebrew/bin/brew shellenv)"' >> /Users/<your-user-name>/.zprofile
$ eval "$(/opt/homebrew/bin/brew shelling)"
现在让我们用brew安装所需的包:
$ brew install wget python@3.10 cmake git
1.5. Install TG Pro (optional)
它是一款适用于 MacOS 的付费工具,可免费试用 14 天,可以跟踪不同组件的温度,例如每个 CPU 核心、GPU 核心、电
Copyright © 2003-2013 www.wpsshop.cn 版权所有,并保留所有权利。