GitHub 每周热点(240114)

潘忠显 / 2024-01-14

本周上榜的仓库，有两个大规模语言模型的 UI，还有持续在榜上的多角色的 Crew AI，语音即时转换的 OpenVoice，会做家务的 Mobile ALOHA。李笑来又回来教英语了，开始不断更新书稿。还有meta开源的语音直接转人像视频的项目，以及移动应用的一体化后端服务 pocketbase。

另外，在介绍项目的过程中，我也会介绍一些关联的项目，比如跟 pocketbase 类似的 Supabase，跟 Crew AI 有关联的 XAgent 以及 AutoGPT。

本地 Chat App - mckaywrigley/chatbot-ui

总 Star: 22856, 本周新增 Star: 2688

项目介绍：使用 TypeScript 写的 Chat Bot UI。可以通过打开的本地桌面 App，管理云上托管的模型、以及本地的模型。

chatbot-ui

项目所生成的 App 依赖 Supabase，项目中有介绍出于安全、存储限制、多模式用例限制等考虑，使用 Supabase 来替代了最初的本地文件存储。

这里也顺便介绍一下Supabase：它是一个开源的 Firebase 替代品，可以自托管（在自己服务器上部署）。它是一个由多个开源工具组成的后端即服务（Backend as a Service）平台，提供了数据库、身份验证、存储、函数等功能，可以帮助开发者快速构建现代应用。以下是 Supabase 的一些主要组件：

PostgreSQL数据库：Supabase 使用的是 PostgreSQL，这是一个功能强大、开源的关系型数据库。你可以使用SQL进行查询，也可以使用RESTful或者实时Websocket API进行访问。
实时订阅：Supabase提供了实时的数据库订阅功能。你可以订阅数据库中的任何更改，当数据发生变化时，你的应用会立即收到更新。
身份验证和授权：Supabase提供了内置的用户身份验证和授权功能。它支持多种登录方式，包括电子邮件、第三方提供商（如Google、GitHub等）以及JWT（JSON Web Tokens）。
存储：Supabase提供了一个对象存储服务，可以用来存储图片、视频等文件。
Serverless函数：Supabase支持Postgres存储过程和触发器，你可以使用它们来构建serverless函数。

可以在 Supabase 的云平台上使用这些服务，也可以在自己的服务器上部署和使用（有许多开源软件都采用了这种模式，既提供云服务，也支持自托管。这种模式允许用户根据自己的需求和资源选择最适合的部署方式。类似的 Grafana、GitLab、Jenkins 等都有提供对应的云服务）

另外，项目依赖 Ollama 来管理和运行本地模型，比如 Llama 2、Mistral 等大语言模型。

Llama 2 由 Meta 发布，该模型在 2 万亿个令牌上进行训练，默认情况下支持 4096 的上下文长度。Llama 2 Chat 模型针对超过 100 万条人工注释进行了微调，专为聊天而设计。7b 型号通常需要至少 8GB RAM

Mistral 是 Mistral AI 这家公司发布的开源模型。Mistral AI 由 Arthur Mensch、Guillaume Lample 和 Timothée Lacroix 于 2023 年 4 月共同创立。在共同创立 Mistral AI 之前，Arthur Mensch 曾在Google 人工智能实验室DeepMind工作，而 Guillaume Lample 和 Timothée Lacroix 则在 Meta 工作。2023年9月发布的 Mistral 7B 声称该模型在所有测试的基准测试中均优于LLaMA 2 13B，并且在许多测试的基准测试中与 LLaMA 34B 相当。

这些模型都有语言的限制，如果你熟练使用英语，在本地运行这些模型使用起来就比较顺畅了。

本地 Chat App - janhq/jan

总 Star: 6202, 本周新增 Star: 2681

项目介绍：Jan 也是一个 Chat Bot UI，也是主要用 TypeScript 来编写的，可以100%的离线运行本地模型。

简单地使用了一下，它跟 chatbot-ui 主要的不同是：Jan 提供安装包，开箱即用；chatbot-ui 需要命令行安装一些依赖。

jan-ui-1

虽然用户没有感知到，但是 Jan 也介绍了下它依赖另外两个开源项目：

llama.cpp：在 MacBook 上使用 4 位整数量化（4-bit integer quantization）运行 LLaMA 模型
NVIDIA/TensorRT：NVIDIA TensorRT 的开源软件 (OSS) 组件，包括 TensorRT 插件和解析器（Caffe 和 ONNX）

Jan 也支持 Llama 2、Mistral 等很多大语言模型。因为其用法比较简单，相信后边 Star 的上升势头也不亚于 chatbot-ui。

jan-ui-2

分角色智能 - joaomdmoura/crewAI

总 Star: 4432, 本周新增 Star: 2571

项目介绍：用于编排角色扮演、自主人工智能代理的框架。通过促进协作智能，CrewAI 使代理能够无缝协作，处理复杂的任务。这个项目上周也有上榜。

基于角色的代理设计：定制具有特定角色、目标和工具的代理。
代理间自主委派：代理可以自主委派任务并相互查询，提高解决问题的效率。
灵活的任务管理：使用可定制的工具定义任务并将其动态分配给代理。
流程驱动：目前仅支持sequential任务执行，但正在处理更复杂的流程，例如共识和分层。

crewAI-mindmap

像前两个 UI 类似，crew AI 也可以通过 Ollama 来支持基于本地模型运行，增强灵活性和定制性。以利用自己的模型，这对于特殊任务或数据隐私问题特别有用。

之前有类似的两个有名的项目：

AutoGPT 可将这单个复杂计划拆分为若干个子任务，并能够基于的 GPT-4 或 GPT-3.5 在线模型来实现这些任务
XAgent 由面壁智能和清华大学 NLP 实验室共同推出，对标 AutoGPT，可以实现自主解决复杂任务的全新 AI 智能体，以 LLM 为核心，能够理解人类指令、制定复杂计划并自主采取行动