本次和大家分享一个非常强大的大语言模型提供实用化交互接口的应用gpt_academic,该应用有如下一些功能如:PDF论文阅读/润色/写作,总结绘制脑图,查找语法错误,学术英中互译,联网搜索问题答案,Python和C++等项目剖析&自译解功能,PDF/LaTex论文翻译&总结功能,支持并行问询多种LLM模型,支持chatglm3等本地模型。支持通义千问, deepseekcoder, 讯飞星火, 文心一言, llama2, rwkv, claude2, moss大模型,支持几十个插件扩展功能,如总结绘制脑图,总结音频视频内容,解析Java、Go等编程语言项目,PDF/markdown内容翻译等等,
先将整合包下载到本地电脑并解压,下载链接见文章末尾
配置大语言模型
分享3种设置大语言模型的方式,
1、ChatGPT
首先要有ChatGPT的API,如果你还没有API KEY的话,可以参考下面文章去免费申请一个ChatGPT API KEY,《无门槛免费申请OpenAI ChatGPT API搭建自己的ChatGPT聊天工具》
有了API KEY之后,运行项目文件夹内的0启动软件.exe,启动程序
API平台填写你获取API的渠道,OPENAI 官方的key,这里留空,其它哪个平台就选哪个,
API KEY填写你的ChatGPT API KEY,
设置完成了,点击启动应用就可以打开应用WEBUI界面
免费用户请在页面左上角选择gpt-3.5-turbo模型
二、阿里通义千问在线大模型
首先申请一个阿里云百炼的API KEY:https://bailian.console.aliyun.com/?apiKey=1#/api-key
API KEY为sk-开头的一串字符串,然后申请开通大模型:https://bailian.console.aliyun.com/#/model-market,选择一个你想使用的模型,鼠标放在【立即体验】四个字上方会出现开通提示,你点击去开通,开通了大模型使用权限你才可以通过API调用相关大模型
然后在启动程序界面API平台里选择通义千问,API KEY里填写你的阿里云百炼key,然后启动应用就可以
打开webUI界面后,请在页面左上角模型选择中选择qwen-max
要注意,通义千问在线大语言模型并不是完全免费的,是有一定的免费额度的,注意你的用量
三、使用本地部署的通义千问大语言模型
如果不想使用在线大模型,你可以使用本地离线部署的通义千问大模型,我已经安装好了,已经包含在压缩包内了,在启动程序界面里,API 平台和API KEY什么都不需要填,直接点击启动应用即可
应用启动后在webUI界面左上角模型选择中,选择”qwen-local”模型,就可以直接和大模型对话使用gpt_academic的功能了
如果你在使用某些插件功能的时候,提示导入软件依赖失败,需要再运行代码安装,你可以运行项目文件夹内的1安装依赖包.exe,然后输入网页上提示的安装命令即可
gpt_academic一键启动整合包下载链接:
https://afdian.com/p/4e55a75ea00611efb59052540025c377