魔搭社区发布开源版GPTS 'ModelScope Agents'
在Openai的DEV day上,Openai发布了GPT Stores,它可以让用户通过聊天、直接配置的方式定制GPT,并可以自定义知识库以及接入web-browsing、文生图、code-interpreter三个工具的能力。然而,开发者持续反馈暴露出GPT Store存在一些需要优化的地方。
首先,GPT Stores的黑盒化导致开发者难以控制其中的细节,进行二次开发。其次,工具的调用仅支持openapi的接入,定制化成本略高。第三,数据安全隐私问题,个人知识库必须上传,并且目前存在泄露的问题。最后,只能使用Openai的模型,大量的token消耗,成本很高。
有鉴于此,魔搭社区表示希望提供开源的实现方案,为开源社区的用户提供类似的应用构建体验,同时方便用户能够接入不同的LLM,方便用户定制。此外,他们希望借助这样一个应用层中间件,去衔接ModelScope模型生态和应用生态,促进应用生态的繁荣。
因此,魔搭官方推出了开源版的ModelScope Agents。ModelScope Agents支持用户定制和二次开发,同时方便用户接入不同的LLM Agent、支持finetune等。用户可以通过Colab链接和Notebook链接来使用ModelScope Agents,并通过Python环境进行安装和使用。
除此之外,ModelScope Agents还有一系列的发展计划,包括支持生产级别功能、有效的评估方式、支持在ModelScope创空间上使用等。
以下是相关的链接:
GitHub地址:https://github.com/modelscope/modelscope-agent Colab链接:https://colab.research.google.com/github/modelscope/modelscope-agent/blob/master/demo/modelscope_agents.ipynb Notebook链接:https://github.com/modelscope/modelscope-agent/blob/master/demo/demo_modelscopegpt_agent.ipynb