AMD為銳龍AI Max帶來(lái)更強(qiáng)AI支持 可運(yùn)行128B大模型
AMD在年初的CES 2025上推出了銳龍AI Max系列處理器，擁有2個(gè)Zen 5架構(gòu)CCD最多16個(gè)內(nèi)核，并擁有最多40組RDNA 3.5架構(gòu)CU的超大核顯，并配備256位的LPDDR5X內(nèi)存控制器，盡管很多用戶對(duì)這款產(chǎn)品的期待是更小體積的游戲機(jī)產(chǎn)品，但是從AMD自身的規(guī)劃以及廠商的反應(yīng)來(lái)看，該系列處理器似乎更多的被計(jì)劃用于本地AI以及大模型等需求。
顯然AMD對(duì)于AI更加重視，現(xiàn)已宣布對(duì)銳龍AI Max的可變顯存進(jìn)行重大升級(jí)，即將推出的Adrenalin Edition 25.8.1 WHQL驅(qū)動(dòng)程序可以讓配備128GB內(nèi)存的銳龍AI MAX設(shè)備劃分96GB作為顯存使用，這讓它能夠運(yùn)行128B參數(shù)的大模型。
AMD表示已經(jīng)成功使用銳龍AI Max+ 395處理器成功在本地運(yùn)行Meta的Llama 4 Scout 109B模型，成為首款成功運(yùn)行該模型的Windows AI處理器，并支持視覺(jué)和MCP，Llama Scout采用混合專家模式，所以每次只有17B處于活動(dòng)狀態(tài)，所以可保持較快的輸出，最多可實(shí)現(xiàn)15tokens/s的生成速度。
銳龍AI Max處理器對(duì)大模型提供了廣泛的支持，從最小的1B微型模型到最大128B的模型，支持包括GGUF在內(nèi)的多種量化格式，使其能夠靈活地適用于不同場(chǎng)景。這次升級(jí)還增大了對(duì)大型上下文大小的支持，大多數(shù)設(shè)置的最大token數(shù)約為4096個(gè)，但這次升級(jí)后銳龍AI Max平臺(tái)可以擴(kuò)展至256000個(gè)token，但需要開啟Flash Attention功能，啟用KV Cache Q8，這運(yùn)行在上下文中保存大量token，使其支持更高級(jí)的任務(wù)，例如解析和匯總大型文檔的內(nèi)容。
當(dāng)然，上述功能都需要你擁有的銳龍AI Max搭載了128GB內(nèi)存，特別是考慮到該系列處理器使用了板載的LPDDR5X內(nèi)存的情況下。目前擁有這類設(shè)備的用戶可以在AMD官網(wǎng)上下載預(yù)覽版驅(qū)動(dòng)提前嘗鮮。
- 相關(guān)閱讀:
-
河北省人大常委會(huì)最新任免名單來(lái)了2025-07-30
- 新聞 娛樂(lè) 福建 泉州 漳州 廈門
-
- 特朗普簽署行政令將美國(guó)防部更名為“戰(zhàn)爭(zhēng)部”
2025-09-06 10:25 - 英國(guó)首相斯塔默大幅改組內(nèi)閣
2025-09-06 10:25 - 聯(lián)合國(guó)將恢復(fù)舉行落實(shí)“兩國(guó)方案”高級(jí)別國(guó)際會(huì)議
2025-09-06 10:24 - 特朗普簽署行政令執(zhí)行美日貿(mào)易協(xié)議 日業(yè)界認(rèn)為將對(duì)出
2025-09-05 17:17 - 我國(guó)成功發(fā)射試驗(yàn)二十九號(hào)衛(wèi)星
2025-09-05 17:16 - 委內(nèi)瑞拉將啟動(dòng)首輪民兵組織動(dòng)員工作
2025-09-05 17:14 - 旅客平均20秒通關(guān) 4年來(lái)超6985萬(wàn)人次經(jīng)橫琴口岸出入境
2025-09-05 16:46
- 特朗普簽署行政令將美國(guó)防部更名為“戰(zhàn)爭(zhēng)部”
- 猜你喜歡:
-
英國(guó)首相斯塔默大幅改組內(nèi)閣2025-09-06
-
評(píng)論(AMD為銳龍AI Max帶來(lái)更強(qiáng)AI支持 可運(yùn)行128B大模型)