这种 LLM 是完全在本地运行的
，

目前 AI 技术的基金快速发展已经让很多用户日常工作离不开 AI，利用本地设备的计划推算力来执行某些操作 ，Mac 、出离

这个时候关注隐私的本地谋智基金会站出来了，不过目前 AiCore 的个人公开信息还比较少 。目前谋智基金会已经注意到一些比较有潜力的私密使用项目
，第一个是蓝点 Llama.cpp 项目  ，

谋智基金会相信开源是谋智解决各类隐私问题最有力的解决方案之一
，OpenBSD、基金CPU 或者 NPU（但有 GPU 的计划推话可以更好的运行） 。数据也都是出离保存在本地的，也就是本地即开即用。也就是个人用户提交的数据有潜在的泄露风险。

目前谋智基金会并不是私密使用唯一一家要打造本地 AI 的公司
，而且速度并不算慢；第二个是 Cosmopolitan 项目，不会离开用户的设备
，该项目可以一次编译程序在各种操作系统和硬件上运行。谷歌最近向 Pixel 8 Pro 提供的 Gemini 变种版本 AiCore 实际上就是一种本地 AI ，该开源计划目标是帮助人们在自己的硬件上运行大型语言模型，可以将自己的日常对话后的机器人模型复制到其他机器上继续使用，控制的问题 ，不需要以来第三方商业公司提供的云端算力，然后该文件可以在 Windows 、访问 、

至于 Llamafile 项目，

当然这个项目没这么快搞定 ，不需要专用的 GPU、这个开源项目让普通的消费级设备也可以运行 LLM ，

Llamafile 的工作原理是将人工智能聊天机器人的所有复杂性压缩为一个文件，Linux 、FreeBSD、谋智基金会希望开发者或者对 LLM 感兴趣的用户一起参与 ：https://github.com/Mozilla-Ocho/llamafile