Dify大模型应用平台:设置模型接入

内容分享18小时前发布 皆梦_
0 3 0

Dify是基于大语言模型的AI应用开发平台,我们在安装完成部署,初次使用时需要先在Dify的设置——>模型供应商页面内设置自己所需要的模型。

Dify目前已支持主流的模型供应商,不同模型的能力表现、参数类型会不一样,可以根据不同场景的应用需求选择适合的模型供应商。

Dify大模型应用平台:设置模型接入

模型供应商

模型类型

在Dify中,按模型的使用场景将模型分为以下4类:

  • 系统推理模型:在创建的应用中,用的是该类型的模型。智聊、对话名称生成、下一步问题提议用的也是推理模型(OpenAI、Azure OpenAI Service、Anthropic、Hugging Face Hub、Replicate、Xinference、OpenLLM、讯飞星火、文心一言、通义千问、Minimax、ZHIPU)。
  • Embedding模型:在知识库中,将分段过的文档做Embedding用的是该类型的模型。在使用了知识库的应用中,将用户的提问做Embedding处理也是用的该类型的模型(OpenAI、ZHIPU(ChatGLM)、Jina AI(Jina Embeddings))。
  • Rerank模型:Rerank模型用于增强检索能力,改善LLM的搜索结果(Cohere、Jina AI(Jina Reranker))。
  • 语音转文字模型:将对话型应用中,语音转文字用的是该类型的模型(OpenAI)。

接入模型设置

在Dify的模型供应商页面,选择相应的模型,点击”设置”,添加对应模型厂商的API key,点击保存即可。

Dify大模型应用平台:设置模型接入

模型接入

接入模型设置成功后,可以查看相应的模型。

Dify大模型应用平台:设置模型接入

查看模型

设置默认模型

点击”系统模型设置”,可以对4种模型类型进行设置默认的模型。在创建应用或者Embedding等操作时,会使用默认的模型。

Dify大模型应用平台:设置模型接入

设置默认模型

使用模型

配置完模型后,可以在应用中,去使用这些模型了。

Dify大模型应用平台:设置模型接入

模型应用

总结

Dify平台通过提供丰富的模型接入与设置功能,为用户打造了一个灵活且强劲的AI应用开发环境,无论是开发者还是企业用户,都能根据自身业务场景和需求,便捷地整合各类模型,从而高效地开发出智能、精准且实用的AI应用,为提升工作效率、优化用户体验等方面带来显著助力,开启智能化应用开发的新征程。

© 版权声明

相关文章

3 条评论

  • 头像
    新百胜客服小涵 读者

    现在1.0里面找不到星火讯飞模型

    无记录
    回复
  • 头像
    明星日常观测站 投稿者

    真不戳💪

    无记录
    回复
  • 头像
    小小刘的小世界 读者

    收藏了,感谢分享

    无记录
    回复