AI软件下载
有趣网站推荐及实用软件下载

Windows系统解决flash-attn安装很慢的方法

Windows系统直接pip 安装flash-attn是非常慢的,不过有大佬编译好了windows版本,我们可以直接拿来用。

项目地址:https://github.com/bdashore3/flash-attention/releases

上面项目支持的torch版本不全,可以用下面这个库

https://huggingface.co/lldacing/flash-attention-windows-wheel

先pip list,看看你的torch版本是哪个,你的是哪个版本,就选哪个版本flash-attn

比如说,我是torch2.4.0,我的python版本是3.10,也就是

flash_attn-2.7.1.post1+cu124torch2.4.0cxx11abiFALSE-cp310-cp310-win_amd64.whl

你也可以查看其它的Assets,查看更多版本列表

鼠标右键点击这一项,选择复制链接地址

然后在命令窗口里输入:

pip install https://github.com/bdashore3/flash-attention/releases/download/v2.7.1.post1/flash_attn-2.7.1.post1+cu124torch2.4.0cxx11abiFALSE-cp310-cp310-win_amd64.whl

这样安装就会很快了

电脑不给力运行不了?试试高配云电脑>>

1对1人工答疑支持: https://nuowa.net/1806
赞(0) 打赏
软件无法使用?点击查看常见问题说明>>

最近更新

临时邮箱,一次性匿名gmail.com邮箱

有时候网站需要测试一些功能,比如注册登录等,需要用到邮箱,但是自己的邮箱有限,不能更多的测试效果,这时候就需要一些不同后缀的一次性邮箱,网上有很多这样的一次性匿名邮箱,后缀很多,非常适合测试使用,下面分享几个比较好用的临时邮箱。 Gmail...

检测和删除高相似度图片软件AntiDupl免费下载-诺瓦小站

检测和删除高相似度图片软件AntiDupl免费下载

前几天整理手机图片,手机中拍了大量的图片,很多图片是连拍的,图片的相似度极高,甚至就是一模一样的图片,有时候看相册的时候会删除掉这些图片,有时候忘了删。在电脑上整理备份的时候这些高相似度的图片比较占空间,也会额外增加处理时间,所以想找个图片...

觉得文章对你有帮助就打赏一下作者

非常感谢你的打赏,我将有更多的动力继续提供优质内容,让我们一起创建更加美好的世界!

支付宝扫一扫

微信扫一扫