AI软件下载
有趣网站推荐及实用软件下载

ImportError: Requires Flash-Attention version >=2.7.1,<=2.8.2 but got 2.8.3.

今天在调试python应用的时候发生报错,部分错误信息如下:

……

File “/root/miniconda3/lib/python3.10/site-packages/xformers/ops/fmha/flash.py”, line 82, in <module> raise ImportError( ImportError: Requires Flash-Attention version >=2.7.1,<=2.8.2 but got 2.8.3.

意思就是Flash-Attention版本不对,要小于等于2.8.2.

可以直接运行下面命令安装

pip install ninja -i https://pypi.tuna.tsinghua.edu.cn/simple

MAX_JOBS=4 pip install flash-attn==2.8.2 --no-build-isolation -i https://pypi.tuna.tsinghua.edu.cn/simple

但是flash-attn安装过程需要编译,耗时可能几个小时,所以我没使用上面的方法,最好是安装编译好的whl

可以重装torch和xformers,原来torch2.8,先降低torch和xformers版本,代码如下

pip install torch==2.7.1 torchvision==0.22.1 torchaudio==2.7.1 xformers==0.0.31 --index-url https://download.pytorch.org/whl/cu128

安装完成后Flash-Attention版本需要 >=2.7.1,<=2.8.0

然后再安装Flash-Attention 2.8.0 whl,命令如下:

pip install https://github.com/Dao-AILab/flash-attention/releases/download/v2.8.0.post2/flash_attn-2.8.0.post2+cu12torch2.7cxx11abiTRUE-cp310-cp310-linux_x86_64.whl

这样安装速度就很快,就不需要再进行漫长的编译等待了。

类似报错:ImportError: Requires Flash-Attention version >=2.7.1,<=2.8.0 but got 2.8.2.一样的解决原理


在新的机器上,同样的环境,我先把xformers删除掉了,运行的时候没有报错:Requires Flash-Attention version >=2.7.1,<=2.8.2 but got 2.8.3.

或许是和xformers冲突了。


AI软件用不了?2元爽玩4090: 立即体验>>

热门大语言模型API免费体验: 立即获取>>

软件催更及1对1人工答疑支持: https://nuowa.net/1806
赞(2) 打赏
软件无法使用?点击查看常见问题说明>>

最近更新

祝贺凡人修仙传2026年新年番开播同时在线人数超64万-诺瓦小站

祝贺凡人修仙传2026年新年番开播同时在线人数超64万

今天6月13日凡人修仙传新年番开播,同时在线人数破64万(非最高在线人数,只是我看到的在线人数),作为凡人5年老粉,必须发个帖祝贺一下。 我比较喜欢看动漫,各种类型看了很多,具体不清楚多少,像斗罗斗破之类看了一大半终究是没能看下去,还是雾山...

Claude居然自称“本人”-诺瓦小站

Claude居然自称“本人”

今天在和Claude聊网文写作的时候,Claude回复中居然自称本人,这让我有点震惊。 我经常会和AI聊工具功能对比等话题,ChatGPT、Gemini、Claude这些以前我记得从来没有自称过本人的,好像都是本模型,本工具等等,反正从来没...

免费在线HTML转markdown工具

经常看一些在线文档,想复制给AI参考的话不方便直接复制,转换成markdown再给AI阅读会更简单明了,也方便自己查阅,这里给大家推荐两个在线的免费HTML转markdown网站。 1、https://d1tools.com/tools/c...

觉得文章对你有帮助就打赏一下作者

非常感谢你的打赏,我将有更多的动力继续提供优质内容,让我们一起创建更加美好的世界!

支付宝扫一扫

微信扫一扫