Ryzen AI Max+搭載機でも、128GBのメモリを生かして「Qwen3.8-Flash-Next」を回せるようになった。オープンソースのローカルLLM推論エンジン「Strata」のバージョン0.1.40が10月6日に公開され、AMDのRyzen AI Max/Max+シリーズへの対応が実験的に追加された。GitHubからWindows/Linux向けに無償でダウンロードできる。
Strataは、Qwen3.8-Flash-Nextをコンシューマ向けPCで動かすことに特化した推論エンジン。ワンクリックのインストーラーを備え、ローカルホスト上でOpenAI/Anthropic互換APIを提供するほか、オプションで画像入力にも対応する。
今回の目玉は、AMD向けのHIPエンジン(ROCm上で動くAMD GPU用の推論エンジン)がRyzen AI Max/Max+シリーズ内蔵GPUのRadeon 8060S/8050S(識別名: gfx1151)で動作するようになったこと。セットアップ時にはこのチップを認識し、CPUとGPUが共有するメモリを1つのプールとして扱って割り当てサイズを決める。
量子化フォーマットとして「UD-IQ4_XS」を推奨し、Linuxでは自動的にHIPを選択する。エンジン側にはプロンプト処理向けのRDNA 3.5行列コア用カーネルと、ROCm 7.14.1向けのhipBLASLtテーブル、ユニファイドメモリ向けの空きメモリ管理が加わった。また、18個の高速化スイッチが自動で有効になる(環境変数「STRATA_GFX1151_DEFAULTS=0」で無効化可能)。
開発者がRyzen AI Max+ 395/メモリ128GB搭載機でUD-IQ4_XSを使い計測したところ、以前のエンジンブランチと比べてプロンプト処理は6%、生成は4%向上したとしている。詳細な結果は以下の通り。
コンテキストプロンプト処理(プリフィル、tok/s)出力(デコード、tok/s)8K1,29353.864K1,37046.6128K1,32051.4
なお、Windows向けHIPエンジンにもRadeon 8060S/8050S対応のコードは含まれるが、実機では未検証とされており、テスターを募集している。
このほか、クラッシュやNaN発生、セキュリティ関連の修正、レイヤー分割時のResident RAMモード追加などによる複数GPU構成の改善、Q4_0/Q4_1フォーマットへの対応、Linuxでのコールドスタート高速化、Intel Arc向けSYCLポートの修正などが盛り込まれている。既存環境は「UPDATE.bat」(Linuxは「update.sh」)の実行で更新できる。