-
Notifications
You must be signed in to change notification settings - Fork 6k
支持列表
zR edited this page Sep 30, 2023
·
15 revisions
本地模型
本地 LLM 模型接入基于 FastChat 实现，支持模型如下：
- meta-llama/Llama-2-7b-chat-hf
- Vicuna, Alpaca, LLaMA, Koala
- BlinkDL/RWKV-4-Raven
- camel-ai/CAMEL-13B-Combined-Data
- databricks/dolly-v2-12b
- FreedomIntelligence/phoenix-inst-chat-7b
- h2oai/h2ogpt-gm-oasst1-en-2048-open-llama-7b
- lcw99/polyglot-ko-12.8b-chang-instruct-chat
- lmsys/fastchat-t5-3b-v1.0
- mosaicml/mpt-7b-chat
- Neutralzz/BiLLa-7B-SFT
- nomic-ai/gpt4all-13b-snoozy
- NousResearch/Nous-Hermes-13b
- openaccess-ai-collective/manticore-13b-chat-pyg
- OpenAssistant/oasst-sft-4-pythia-12b-epoch-3.5
- project-baize/baize-v2-7b
- Salesforce/codet5p-6b
- StabilityAI/stablelm-tuned-alpha-7b
- THUDM/chatglm-6b
- THUDM/chatglm2-6b
- tiiuae/falcon-40b
- timdettmers/guanaco-33b-merged
- togethercomputer/RedPajama-INCITE-7B-Chat
- WizardLM/WizardLM-13B-V1.0
- WizardLM/WizardCoder-15B-V1.0
- baichuan-inc/baichuan-7B
- internlm/internlm-chat-7b
- Qwen/Qwen-7B-Chat/Qwen-14B-Chat
- HuggingFaceH4/starchat-beta
- FlagAlpha/Llama2-Chinese-13b-Chat and others
- BAAI/AquilaChat-7B
- all models of OpenOrca
- Spicyboros + airoboros 2.2
- VMware's OpenLLaMa OpenInstruct
- baichuan2-7b/baichuan2-13b
- 任何 EleutherAI 的 pythia 模型，如 pythia-6.9b
- 在以上模型基础上训练的任何 Peft 适配器。为了激活，模型路径中必须有
peft。注意：如果加载多个peft模型，你可以通过在任何模型工作器中设置环境变量PEFT_SHARE_BASE_WEIGHTS=true来使它们共享基础模型的权重。
以上模型支持列表可能随 FastChat 更新而持续更新，可参考 FastChat 已支持模型列表。
联网模型
支持的联网模型
本地模型
本项目支持调用 HuggingFace 中的 Embedding 模型，已支持的 Embedding 模型如下：
- moka-ai/m3e-small
- moka-ai/m3e-base
- moka-ai/m3e-large
- BAAI/bge-small-zh
- BAAI/bge-base-zh
- BAAI/bge-large-zh
- BAAI/bge-base-zh-v1.5
- BAAI/bge-large-zh-v1.5
- BAAI/bge-base-zh-v1.5
- BAAI/bge-large-zh-v1.5
- BAAI/bge-large-zh-noinstruct
- sensenova/piccolo-base-zh
- sensenova/piccolo-large-zh
- shibing624/text2vec-base-chinese-sentence
- shibing624/text2vec-base-chinese-paraphrase
- shibing624/text2vec-base-multilingual
- shibing624/text2vec-base-chinese
- shibing624/text2vec-bge-large-chinese
- GanymedeNil/text2vec-large-chinese
- nghuyong/ernie-3.0-nano-zh
- nghuyong/ernie-3.0-base-zh
- sensenova/piccolo-base-zh
- sensenova/piccolo-base-zh
- OpenAI/text-embedding-ada-002
联网模型
除本地模型外，本项目也支持直接接入 OpenAI的在线嵌入模型。 支持的联网模型
Langchain 中的分词器
本项目支持调用 Langchain 的 Text Splitter 分词器以及基于此改进的自定义分词器，已支持的 Text Splitter 类型如下：
- CharacterTextSplitter
- LatexTextSplitter
- MarkdownHeaderTextSplitter
- MarkdownTextSplitter
- NLTKTextSplitter
- PythonCodeTextSplitter
- RecursiveCharacterTextSplitter
- SentenceTransformersTokenTextSplitter
- SpacyTextSplitter
自定义分词器
已经支持的定制分词器如下：
本地向量数据库
目前支持的本地向量数据库列表如下：
联网向量数据库
- 目前，本项目还不支持联网的向量数据库，我们将在未来提供支持。
本地工具
- 翻译工具，实现对输入的任意语言翻译。
- 数学工具，使用LLMMathChain 实现数学计算。
联网工具
-
天气工具，使用自定义的LLMWetherChain实现天气查询，调用和风天气API。
-
我们支持Langchain支持的Agent工具，在代码中，我们已经提供了Shell和Google Search两个工具的实现。
-
我们期待开发者共享更多的工具，帮助项目生态完善