Windows系统直接pip 安装flash-attn是非常慢的，不过有大佬编译好了windows版本，我们可以直接拿来用。
项目地址：https://github.com/bdashore3/flash-attention/releases
上面项目支持的torch版本不全，可以用下面这个库
https://huggingface.co/lldacing/flash-attention-windows-wheel
先pip list，看看你的torch版本是哪个，你的是哪个版本，就选哪个版本flash-attn
比如说，我是torch2.4.0，我的python版本是3.10，也就是
flash_attn-2.7.1.post1+cu124torch2.4.0cxx11abiFALSE-cp310-cp310-win_amd64.whl
你也可以查看其它的Assets，查看更多版本列表
鼠标右键点击这一项，选择复制链接地址
然后在命令窗口里输入：
pip install https://github.com/bdashore3/flash-attention/releases/download/v2.7.1.post1/flash_attn-2.7.1.post1+cu124torch2.4.0cxx11abiFALSE-cp310-cp310-win_amd64.whl这样安装就会很快了
相关推荐
ValueError: Model architectures ['LlamaForCausalLM'] failed to be inspected.- No module named "vllm._C
- UserWarning: Specified provider 'CUDAExecutionProvider' is not in available provider names.Available providers: 'AzureExecutionProvider
- 下载huggingface.co网站上模型文件的几种方法，包括需要登录的验证的模型
- windows电脑安装DeepSpeed报错提示无法打开输入文件“aio.lib”等
- TypeError: argument of type 'bool' is not iterable ERROR: Exception in ASGI application
- AttributeError: module 'gradio' has no attribute 'inputs'解决方法
- AttributeError: module 'gradio' has no attribute 'make_waveform'解决方法
最近更新
支付宝发现金红包了！支付宝的羊毛快来薅💰️💰️
支付宝小荷包搞活动啦，新用户加入立得2元无门槛现金红包。 支付宝小荷包是支付宝推出的一款便捷的零钱管理工具，适合日常小额支付和理财。 什么是支付宝小荷包？ 支付宝小荷包，简单来说，就像是你在支付宝里的“私人金库”。它不仅支持快速转账、收款，...
美团官方发福利，吃喝玩乐外卖神券天天领
美团官方发福利了，加美团企业微信，每天免费领各种吃喝玩乐神券，领取福利流程如下： 1、微信扫码登录↓↓↓ 2、长按添加美团企业微信 3、天天领券 每日签到领取更多红包 更有超多促销活动，限时活动，低价爆品等，让你放肆嗨吃嗨喝！
免费PDF文档翻译软件BabelDOC整合包下载，AI一键PDF全文翻译工具
分享另一个热门的PDF文档翻译软件BabelDOC，软件可以将PDF文档由原语言翻译成指定语言文档，基于在线大语言模型处理能力，文档翻译效果更准确，并保留排版，支持批量文档翻译，我制作了最新版免安装一键启动整合包。 BabelDOC介绍 另...
AI歌曲创作软件YuE整合包下载，一键谱曲演唱音乐生成器
YuE：开放的全曲音乐生成基础模型，可免费一键生成完整歌曲，AI作曲，AI演唱，是一个高质量的AI音乐生成软件。我制作了最新的面安装一键启动整合包。 YuE介绍 YuE 是一系列突破性的开源基础模型，专为音乐生成而设计，尤其适用于将歌词转化...
可灵AI会员专属优惠邀请码，限时福利领取
可灵AI发福利了，通过专属优惠邀请码 6BZPEJK83JZ9 可额外获得50%灵感值。 现在图片、音乐、视频等等，啥都可以用AI生成，可灵AI就是快手旗下非常强大的一个AI内容创作平台，功能多样，效果强大。我最近半年几乎每周都会使用多次，...
多人对话语音合成软件CSM整合包，AI多人文字转语音工具
CSM是发布不久的一款多人对话语音生成模型，声音自然延迟低，同时支持克隆音色语音合成，我基于当前最新版本制作了免安装一键启动整合包。 Sesame CSM介绍 CSM（Conversational Speech Model） 是由...
AI自动化任务执行工具OpenManus一键启动整合包
OpenManus是另一款AI自动化任务执行软件，是Manus的开源实现，无需邀请码，本地运行，我基于当前最新版本制作了免安装一键启动整合包。 OpenManus介绍 OpenManus 是一个开源复刻版 AI 智能体框架，由 MetaGP...
CAMEL-AI开源多智能体协作框架OWL一键整合包，自动化任务助手
OWL 是由 CAMEL-AI 团队开发的开源多智能体协作框架，旨在通过动态智能体交互实现复杂任务的自动化处理，在 GAIA 基准测试中以 69.09 分位列开源框架榜首，被誉为“Manus 的开源平替”。我基于当前最新...
微软PDF/WORD/HTML文档转Markdown格式软件markitdown整合包下载
本次和大家分享另一个微软发布的非常热门的文件文档转Markdown格式文档的软件markitdown，软件可以将PDF，word，ppt，Excel等十几种格式文档转换为markdown格式文档，我基于当前最新0.1.2版本制作了免安装一键...
AI描述万物软件describe-anything整合包，精准描述图片视频中指定区域内容
本次和大家分享一个英伟达联合其他大学开发的一款应用describe-anything，该应用可以通过AI识别分析并详细描述图片视频中指定区域物体内容，我基于最新版制作了免安装一键启动整合包。 describe-anything介绍 Desc...
