Flash-attn（Flash Attention），作為一種用于神經網絡模型的注意力機制，在處理序列數據時有顯著的優勢，可以提高計算效率并減少內存使用，特別是Transformer模型。它通過優化數據布局和計算流程，降低了注意力計算的內存訪問開銷，在本地部署大模型可以減輕GPU的開銷，加快推理速度。項目地址 ：https://github.com/Dao-AILab/flash-attention

然而，官方發布的版本只支持linux，沒有windows包，如果要在windows下安裝，要么使用docker,要么自己編譯，而自己編譯耗時很長，而且也會遇到各種問題。這里我使用的是Brian Dashore編譯好的whl. 下載地址：https://github.com/bdashore3/flash-attention/releases

要注意選擇對應的版本，首先查看自己的cuda版本，在CMD 里輸入：nvcc --version

我的本地環境如下：

系統 windows10 ,python版本11,cuda版本12.1

下載對應的版本為：flash_attn-2.5.9.post1+cu122torch2.3.1cxx11abiFALSE-cp311-cp311-win_amd64.whl

下載到本地后執行，pip安裝：

pip install d:\downloads\flash_attn-2.5.9.post1+cu122torch2.3.1cxx11abiFALSE-cp311-cp311-win_amd64.whl

注意：安裝完成后，如果你以前已經安裝過PyTorch，需要重新安裝一遍，否則運行會報錯。

打開網址https://pytorch.org/get-started/locally/ 選擇對應的版本

根據pytorch.org給出的提示命令，在本地執行安裝：

pip3 install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu121

安裝完成，寫一個簡單的腳本檢驗一下。

test.py

import flash_attn
print(flash_attn.__version__)

運行結果如果正確輸出版本號，則表示安裝成功。

言ヾ(≧▽≦*)o

Halo~大家好！ 我是 愛分享、愛生活 的耀哥哥~今天又來跟大家分享好物啦！

之前因為用了多年的背包拉鏈干碎，經老婆 審批通過 后，入手了 地平線8號MOMENT系列休閑背包 淺海藍色 Mini款 ，給我的體驗非常棒！只可惜隨著我干飯家伙由 13寸輕薄本 華為MatebookX 升級成 15.6寸輕薄性能本 華碩無畏15Pro 之后，這款背包就不能勝任了，畢竟Mini款只能放 14寸及以下的筆記本 。于是我 又 能名正言順地跟老婆提換背包的事情了！( 為什么我要說“又”（奸笑） ）

考慮到 地平線8號MOMENT系列休閑背包 用著確實舒服，而 Mini款淺海藍 給老婆大人用，我這次入手了 地平線8號MOMENT系列 常規款背包（暮色黑） ，還可以跟老婆組合成情侶背包， 申請通過成功率大大提升（狗頭保命） 。

▲新入手的 地平線8號MOMENT系列 常規款背包（暮色黑） 依然保持了系列產品的 獨特而又方便的打開方式 ，同時常規款的容量大升級， 更能裝！

接下來我給大家曬單分享，希望能夠給大家的背包選購提供參考~

外觀及體驗ヾ(≧▽≦*)o

▲之前入手的Mini款背包外包裝比較簡易，這次 地平線8號MOMENT系列 常規款背包 采用了 深黑色帶LOGO飛機盒包裝 ，更加上檔次。

▲正面看，地平線8號MOMENT系列 常規款背包（暮色黑） 依然保持原有方正的版型，顏色質感是 磨砂黑色 ，潮流之中帶點成熟優雅。

▲包體依然沿襲了 新觸感素皮設計 ，柔軟順滑不沾水 。主袋翻蓋這里地平線8號的 “LEVEL8” 的文字logo，并在下方配置了 德國fidlock磁吸提扣 ，一拉一提即可打開背包，超方便。

▲翻蓋底部是 德國fidlock磁吸提扣 ，單手即可開扣，而且能夠 磁吸自鎖 ，特別牢固，開合都非常簡單。

▲在打開看主袋之前，咱們先看看前包身下半部分，其實隱藏了一個 可擴容側邊袋 ，日常可以把手表、交通卡、手機啥的暫時放里面，取用的時候就很方便。

▲而在背包翻蓋下，設計師還設計了一個容量大質感好的 磁吸開合外袋 ，可以放充電頭、耳機還有鑰匙啥的，容量不錯。

▲與Mini款一樣，地平線8號MOMENT系列 常規款休閑背包 的主袋外側的兩條拉鏈下拉之后，可以變成一個 180°超大的敞口 ，這樣背包里面藏了啥東西就看得一清二楚，方便取出大件東西，也方便翻找小玩意兒。

▲前包身內側還設計了個 隱藏式拉鏈袋 可以放一些重要證件或者票據等。主袋的容量也非常可觀，達到了 20L ，大隔層里幾個大部頭書籍本子都可以同時往書包里面放。

▲主袋里除了 大隔層 之外，還設置了 專屬電腦隔層 、 平板隔層 ，收納分區更科學，更能裝。

▲常規款背包的 專屬電腦隔層 支持 11寸~15.6寸筆記本電腦 ，隔層內面有 細膩絨毛保護 ，有效減少磨損，讓電腦常用常新。不過其對于筆記本四個角的保護似乎還能再提升，期待以后有針對筆記本電腦保護的升級版。

▲而 地平線8號MOMENT系列 常規款 休閑背包 的 專屬電腦隔層 其實與背包背面的一個 神秘L型拉鏈 相連。輕輕拉開順滑的拉鏈后，就可以看到放在包里的電腦！可以直接從這里拿出電腦，不必打開主袋，特別方便干飯人（ 可以隨時隨地加班了…… ）

▲背包側面設計了兩個 擴容暗袋 ，日常放水壺雨傘等那叫一個方便隨意。

▲說實話， MOMENT系列休閑背包 的背面線條設計也同樣出色。其 S型回彈性減負肩帶 采用了 TPE輕質充氣墊肩 ，能夠有效分散背包負重帶來的壓力，讓肩膀久背不累。而肩帶下還配置的兩列 一體成型冷壓靠背 也同樣出色，不僅保證了透氣性，同時也對背部的稱重起到緩沖效果。

▲ 一體成型冷壓靠背 具有 優秀彈性及支撐性 ，能維持背包版型，同時也更透氣舒適，對于 長時間通勤外出 使用真的非常合適！

▲此外，地平線8號MOMENT系列 常規款 休閑背包 跟我之前入手的Mini款一樣， 背包背面設置有 拉桿套 ，這對于我這樣的 出差仙人 來說，真的是非常有必要……之前電腦的鉸鏈損壞就是因為背包沒有拉桿套，從旅行箱上重重摔下去（ 我的心在滴血…… ）。 所以大家選購背包，一定要像MOMENT系列這樣有拉桿套！有拉桿套！拉桿套！套！

▲廣州難得有些好天氣，于是準備帶老婆小孩出去走走。地平線8號MOMENT系列 常規款休閑背包 與我之前就入手、用了兩年多的 地平線8號 城市脈搏旅行箱 真的很般配，他們家的產品設計潮流低調又耐用，老婆對于常規款、Mini款兩款背包的體驗都贊不絕口（ 于是她對我給她用舊背包沒有太多意見了，嘻嘻！ ）

體驗總結ヾ(≧▽≦*)o

首先要再次感謝敏姐姐通過我的 購買申請（之前才剛買了 Mini款淺海藍背包） ，我才能換上 地平線8號MOMENT系列常規款背包（暮色黑） 。經過這段時間的出行使用，這款背包真的讓我越來越愛！

這款背包不僅擁有 柔軟易打理的素皮設計 ，防水又高顏值，而且擁有 獨特的磁吸扣設計 ，打開方式備有面子！此外，常規款背包擁有比Mini款更大的容量，其 專屬電腦隔層 最大可以放下 15.6寸的大號筆記本 ， 出門需要帶 大尺寸筆記本電腦 的朋友特別適合買這款背包哦~

總的來說， 地平線8號MOMENT系列 常規款背包 對于 干飯人通勤、出差 來說，是個非常不錯的選擇，特別是手上拿著大尺寸電腦的朋友們， 誠心推薦，值得關注！

好了，以上就是本次分享的全部內容，非常感謝您的閱讀！我是愛生活愛分享的耀哥哥，祝您生活愉快！

你電腦品牌有很多，而積核以專門制造高性能機型的迷你電腦聞名，他們的機子，其性能往往非常強大。

積核Mini IT11迷你電腦就是這樣一款小巧卻能力驚人的設備。

1. 開箱

拿到它的那一刻，你會被它的外觀吸引，簡潔而不失優雅，透露出制造商對產品的自信和用心。

打開盒子，你會看到迷你電腦本身，它的體積小巧得讓人難以置信，但手感堅固，做工精細。

除了主機，包裝內還附帶了電源適配器、HDMI線以及一份簡明的用戶手冊，讓你即使是電腦小白也能輕松上手。

它的體積小巧，設計精美，可以輕松放入你的背包甚至口袋中，讓你隨時隨地都能享受到強大的計算能力。

2. I/O端口和可擴展性

I/O端口非常豐富，包括3個USB-A 端口、2 個USB4端口、一個SD卡插槽和一個 HDMI 端口，幾乎可以連接你需要的所有設備。

這樣的端口設計非常人性化。 USB-A端口用來連接你的傳統設備，USB4端口讓數據傳輸和設備充電更加迅速。SD卡槽和HDMI端口的加入，則是讓它在多屏工作和娛樂中有更多表現。

可擴展性也是一大亮點。你可以輕松打開機身，可以擴展至高達2TB的硬盤和64GB的運行內存。

這種設計考慮到了用戶可能隨著時間的推移而增長的存儲和處理需求，確保了這臺迷你電腦的長期適用性。

這對于那些需要更多存儲空間和更強大處理能力的用戶來說，是一個非常吸引人的點。

3. 性能

說到性能，積核Mini IT11是一匹黑馬。它的第 11 代英特爾酷睿 i7 芯片組，配合 32GB的運行內存，提供了流暢的多任務處理能力。

無論是多窗口辦公還是視頻編輯，它都能輕松應對。我們進行了一系列的性能測試，包括日常辦公軟件的響應速度和圖形處理能力，積核 Mini IT11 都表現流暢快速，這得益于它的高速SSD和強大的處理器。

4. 存儲

在存儲方面，積核Mini IT11本身提供了1TB的內存，這對于大多數用戶來說已經足夠使用。讀寫速度非常快，可以大幅提升系統的啟動速度和文件的傳輸速度。

5.總結

積核Mini IT11迷你電腦以其小巧的體積、強大的性能、豐富的I/O端口和方便的可擴展性，成為了市場上的一款獨特產品。

它的優點很明顯，缺點也只是相對的，比如存儲空間對于某些用戶來說可能不夠，缺少 Thunderbolt 4支持。但總體來說，它是一款非常適合需要高性能迷你電腦的用戶，尤其是那些需要便攜性和可擴展性的人。