RWKV 6—9月社区生态月报

461
agents楼主·发布于 1 天前·约 49 分钟读完·交流
  • agents

    欢迎大家收看《RWKV 社区最新动态》!本期回顾 2026 年 6—9 月的社区生态进展,并同步补充 10 月 8 日官方公众号介绍的 RWKV-7 G1k 发布动态。

    44 篇论文,展现 RWKV 研究生态的持续拓展。 按官网条目日期统计,6—9 月共收录 44 篇相关研究:6 月 13 篇、7 月 13 篇、8 月 11 篇、9 月 7 篇。从长上下文稳定性、延迟监督与跨架构模型组合,到医学影像、遥感、自动驾驶、语音压缩、神经量子态和考古文物分类,研究者正把 RWKV 的高效循环建模用于更多任务。

    模型迭代方面,G1k 是本期更新的重点。 根据官方发布介绍,13B 版本已能稳定答对 2026 年高考数学所有客观题,累计训练量为 9.8T token。从 G1i、G1j 到 G1k,社区继续观察纯 RNN 基模在持续训练中的能力进展。

    围绕模型与研究进展,社区也开展了推理框架适配征集、WAIC 展示和论文研讨活动。本期按“论文 → 模型新闻 → 社区活动”的顺序,带大家回顾这些更新。

    本期动态省流版(TL;DR)

    1. RWKV 学术研究动态:44 篇论文

    语言模型、长上下文与规划(6 篇):NinaXander、Delayed Supervision、SANE、ASSCG、LCD、EGGROLL-IPO,涉及跨架构模型组合、长程记忆训练、状态稳定性、算力调度、幻觉缓解与偏好对齐。

    医学与病理影像(11 篇):X2Bone、FA-Diff、SRWKV、TriAIF-RWKV、Snake-RWKV、Volute Scanning、DDLSR、LB-RiR、FreRWKV-Net、HyperRWKV、PathRWKV,覆盖三维骨骼重建、医学图像转换、分割、超分辨率与病理分析。

    遥感、图像增强与跨模态融合(10 篇):GW-VRWKV、RWPNet、CROWNFuse、HRWKV-Net、HSI-FrFRWKV、Learning to prefer、CLUIE、CMRWNet、Random Shuffle High-order RWKV,以及共享 RWKV 的光场图像质量评价。

    裂缝与河冰分割(2 篇):IceRWKV、Compass,关注结构连续性、轻量建模与模态缺失下的鲁棒性。

    序列预测与科学工程应用(8 篇):1D-RWKV、RWKV-TS+、FBG-PhysNet、UD-ML-RWKV、CDBC-Net、RWKV-CVM、移动信道预测与 Tailored RWKV。

    视频、事件视觉与三维点云(3 篇):MG-RWKV、Neural Events、P-RWKV / PointER,拓展高效时序与空间建模。

    语音与音乐生成(2 篇):ECC 神经语音压缩与 RWKV MIDI Generator。

    神经量子态(1 篇):One More Time 将 1.5B RWKV-7 用于量子多体波函数建模。

    考古文物分类(1 篇):双视角 Vision-RWKV 联合骨签正面与背面特征,用于出土文物的数字化分类。

    1. RWKV 模型新闻动态

    RWKV-7 G1k 发布:官方介绍 13B 版本的数学客观题表现与 9.8T token 训练进展;官方模型集合提供 1.5B、2.9B、7.2B、13.3B 四种规模。

    分享 RWKV-7 从 1B 到 13B 的训练记录。

    RWKV-7 G1i 发布,同步预告 RWKV-8 RPU。

    RWKV-7 G1j 发布,继续分享 RWKV-8 RPU 进展。

    1. RWKV 社区项目与活动动态

    G1k 官方模型集合提供 Transformers 格式入口,方便开发者开展推理、后训练与微调。

    发布奖金 120 万的 RWKV-7 推理框架适配改进征集,涉及 vLLM、SGLang、Transformers、llama.cpp。

    亮相 WAIC 2026,以“让每个人都有 1000 个 Agent 员工”为主题展示高并发与多 Agent 应用方向。

    举办 OmniZip 论文研讨会,分享基于 RWKV 的统一多模态无损压缩。

    举办 Restore-RWKV 论文研讨会,分享基于 RWKV 的高效医学图像复原。

    Bo 分享关于理解力、创造力与 AI 数据处理能力的思考。

    RWKV 学术研究动态:44 篇论文

    从语言模型到视觉感知,从时间序列到科学计算,RWKV 的研究生态正覆盖更多任务。本期按官网条目日期汇集 2026 年 6—9 月的全部 44 篇相关论文:6 月 13 篇、7 月 13 篇、8 月 11 篇、9 月 7 篇。

    以下按官网条目日期从新到旧排列。条目涵盖期刊、会议与预印本;官网条目日期与论文首次提交、版本更新或期刊公开日期可能不同,相关差异在对应条目中注明。

    1. NinaXander:跨架构冻结语言模型的组合与边界

    论文名称: ** NinaXander: Feasibility and Limits of Composing Frozen Language Models Across Architecture Families via a Shared Latent Space

    论文链接:** https://arxiv.org/abs/2609.38261

    时间: ** 2026-09-29

    通过一个训练得到的共享潜空间适配器,拼接冻结的 RWKV-4-Raven-7B 与 Tulu-Pythia-6.9b 模型层,探索循环架构与 Transformer 在后训练阶段的组合。由 5 层 Pythia 与 27 层 RWKV 构成的配置,相比完整 Pythia 将 Transformer KV 缓存缩小 84.4%,多选题准确率与单独使用 RWKV 无显著差异。但所有组合均未达到 Pythia 的多选题准确率,WikiText 上的语言建模表现也明显下降。

    展示跨架构冻结模型组合的可行性,同时明确缓存节省与模型能力之间的取舍。

    1. GW-VRWKV:全局与窗口协同的高光谱图像分类

    论文名称: ** GW-VRWKV: Synergizing Global and Window-Based Local Perception in VRWKV for Hyperspectral Image Classification

    论文链接:** https://ieeexplore.ieee.org/abstract/document/11712166

    时间: ** 2026-09-28

    将全局 VRWKV 与基于窗口的局部 VRWKV 结合,用于高光谱图像分类。初始感知模块强化空间与光谱判别特征,双向引导融合模块协调全局通道信息与局部响应,使两条分支在长程依赖与局部细节之间协同建模。研究在四个公开数据集上评估,并公开代码与训练日志。

    以全局—局部协同建模增强高光谱分类,发表于 IEEE TCSVT。

    1. Delayed Supervision:面向长程记忆的延迟监督

    论文名称: ** Delayed Supervision for Test-Time Language Models

    论文链接:** https://arxiv.org/abs/2609.32312

    时间: ** 2026-09-26

    在后训练阶段引入延迟问答监督: 模型经历较长的无关事件后,再回答由模拟器提供真值的问题,以训练测试时记忆保留事实并跟踪信息修订。问答在独立分支上进行,答案不会进入持续事件流。除 LaCT 与 DeltaNet 的实验外,论文单独报告了 RWKV-7 的评测结果,在其对应的 BABILong 与单针 RULER 评测中,相比仅使用事件序列进行下一 token 训练,分别提升 4.60 与 7.00 个百分点。

    从训练目标入手改善长程记忆;实验尚未将延迟本身隔离为收益的唯一来源。

    1. X2Bone:双平面 X 光到三维骨骼重建

    论文名称: ** X2Bone: Reconstructing 3D Bone Structures from 2D Biplanar X-Rays via Cross-RWKV

    论文链接:** https://link.springer.com/chapter/10.1007/978-3-032-38186-6_38

    时间: ** 2026-09-25

    从正位与侧位双平面 X 光重建三维骨盆结构。Cross-RWKV 以线性复杂度建模长距离、双向的跨视角交互,融合两个视角的互补信息;视角感知的 3D Expand 模块通过深度概率调制,将融合后的二维特征提升为三维体表示。实验使用由 CTPelvic1K CT 扫描模拟生成的数字重建 X 光图像进行评估。

    以高效跨视角建模拓展三维骨骼重建,收录于 MICCAI 2026 论文集。

    1. FA-Diff:频率感知的 OCT 相关稳定性图转换

    论文名称: ** FA-Diff: Leveraging Frequency-Aware RWKV Diffusion for OCT to Correlation-Stability Map Translation

    论文链接:** https://link.springer.com/chapter/10.1007/978-3-032-38260-3_20

    时间: ** 2026-09-25

    提出频率感知的 RWKV 扩散框架,将 OCT 图像转换为相关稳定性(CS)图。多粒度位移模块 FG-Shift 联合建模空间与频率信息,自适应小波子带归一化模块 FASN 调节不同频率子带,在捕捉全局上下文的同时恢复细微的弹性相关纹理。研究在临床胆管癌数据上验证图像重建效果,拓展 RWKV 在医学图像转换与弹性信息表达中的应用。

    融合循环建模、扩散生成与频率调制,收录于 MICCAI 2026 论文集。

    1. RWPNet:空间—光谱 RWKV 与遥感全色锐化

    论文名称: ** RWPNet: A Receptance Weighted Key Value Based Deep Fusion Network for Pansharpening

    论文链接:** https://ieeexplore.ieee.org/abstract/document/11691595

    时间: ** 2026-09-15

    将空间与光谱 RWKV 建模用于遥感图像全色锐化。通道 WKV 捕捉跨波段依赖,卷积细化保留局部细节,双分支交叉融合模块交换全色图像与多光谱图像的特征。通过长程建模与渐进式融合,在增强空间细节的同时保持光谱一致性。

    让空间结构与光谱信息协同融合,发表于 IEEE JSTARS。

    1. SRWKV:形状引导的高效医学图像分割

    论文名称: ** SRWKV: A Shape-Guided RWKV With Adaptive Receptive Fields for Efficient Medical Image Segmentation

    论文链接:** https://ieeexplore.ieee.org/abstract/document/11676832

    时间: ** 2026-09-03

    将形状先验引入 RWKV 解码过程,利用预测的目标形状引导 token 遍历,减少前景与背景交错造成的结构破坏;可变形自适应位移进一步调整局部交互与感受野。在保留 RWKV 高效全局建模能力的同时,适应不同解剖结构的分割需求。

    以紧凑参数规模兼顾结构连贯性与分割效率,发表于 IEEE TNNLS。

    SRWKV:形状引导的高效医学图像分割研究示意图

    1. SANE:极长上下文下的状态稳定性

    论文名称: ** SANE: State Anomaly Neutralization for Stable Extreme-Context Delta-Rule Models

    论文链接:** https://arxiv.org/abs/2608.22354

    时间: ** 2026-08-25(v2 更新日期;首次提交为 2026-08-23)

    针对 RWKV-7 在极长序列中的局部状态范数爆炸,提出块边界自适应 tanh 压缩,保留块内并行计算结构。安全阈值范围内,在 11 项短上下文推理基准上未出现显著退化;经过 1 亿 token 前缀后仍保留功能性推理,而未处理基线发生数值溢出。

    验证极端长度下的推理稳定性;1 亿 token 前缀后的推理得分为 33.46—35.56。

    SANE:极长上下文下的状态稳定性研究示意图

    1. TriAIF-RWKV:自动提取 CT 灌注动脉输入函数

    论文名称: ** TriAIF-RWKV: A Physiology-Guided Spatiotemporal Framework for Robust Arterial Input Function Selection in CT Perfusion Imaging

    论文链接:** https://www.mdpi.com/1099-4300/28/9/944

    时间: ** 2026-08-22

    将动脉输入函数自动提取拆解为空间定位、时间建模与生理筛选三步。Dilated-RWKV 联合建模 CT 灌注曲线的局部增强变化和长程时间依赖,提高与专家所选曲线的一致性,并改善下游灌注量化结果。

    论文报告全局波形 PCC 达 0.973,高于其中的 LSTM(0.962)与 Transformer(0.966)对照。

    1. Snake-RWKV:拓扑感知的冠状动脉分割

    论文名称: ** Topology-aware linear attention with deformable receptance for coronary artery segmentation

    论文链接:** https://www.sciencedirect.com/science/article/abs/pii/S0957417426029684

    时间: ** 2026-08-20

    采用 RWKV 线性序列建模处理冠状动脉的远距离依赖,并通过结构感知扫描与几何自适应位移,使 token 交互贴合细长、弯曲的血管结构。兼顾主干、小分支的连通性和边界定位,减少二维特征序列化造成的局部连续性损失。

    在四个公开冠脉数据集上兼顾分割精度、拓扑连贯性与计算复杂度。

    1. CROWNFuse:循环跨模态记忆与图像融合

    论文名称: ** CROWNFuse: Recurrent cross-modal memory interaction with edge-frequency recalibration for infrared and visible image fusion

    论文链接:** https://www.sciencedirect.com/science/article/abs/pii/S0925231226022745

    时间: ** 2026-08-20

    通过 RWKV 风格的循环跨模态记忆,持续交换红外与可见光的互补信息,以高效长程交互保留红外显著目标与可见光纹理。再利用边缘—频率重校准强化轮廓和高频细节,使融合结果兼顾目标突出、结构完整与视觉清晰。

    循环记忆交互与频率细节恢复协同,提升红外—可见光融合质量。

    1. HRWKV-Net:遥感图像超分辨率

    论文名称: ** HRWKV-Net: A Hybrid Receptance Weighted Key–Value Network for Remote Sensing Image Super-Resolution

    论文链接:** https://ieeexplore.ieee.org/abstract/document/11658542

    时间: ** 2026-08-18

    将双向 RWKV 的全局建模与窗口注意力结合,用于遥感图像超分辨率。RWKV 捕捉道路、建筑等跨区域地物的长程结构,局部建模补充边缘与纹理;自适应跨尺度频率分解进一步连接编码器与解码器,改善多尺度重建。

    以高效全局建模兼顾遥感结构恢复与细节保真,发表于 IEEE Access。

    1. 1D-RWKV:超连续谱生成的稳定自回归预测

    论文名称: ** Stable autoregressive modelling of supercontinuum generation: A 1D-RWKV surrogate model with physical constraints

    论文链接:** https://www.sciencedirect.com/science/article/pii/S003039922601515X

    时间: ** 2026-08-18

    构建 1D-RWKV 自回归替代模型,预测超连续谱生成中的复杂非线性演化,并引入物理噪声截断抑制滚动预测误差。RWKV 可并行的线性循环结构支持大规模批量推理,在不降采样的情况下保留高分辨率光谱细节。

    在 100 组未见测试数据上平均 NRMSE 为 0.048,支持高效大规模参数扫描。

    1. HSI-FrFRWKV:高光谱跨场景湿地制图

    论文名称: ** HSI-FrFRWKV: Fractional Fourier RWKV for Cross-Scene Coastal Wetland Mapping on Hyperspectral Images

    论文链接:** https://ieeexplore.ieee.org/abstract/document/11657448

    时间: ** 2026-08-17

    把分数阶傅里叶特征与 RWKV 线性复杂度建模结合,联合捕捉高光谱数据的频谱差异与大范围空间上下文。通过幅度—相位学习和回放式自蒸馏,增强对传感器与环境变化的适应性,改善跨场景滨海湿地类别识别与边界保持。

    兼顾频谱辨别、全局空间建模与跨场景鲁棒性,发表于 IEEE TGRS。

    1. IceRWKV:高效河流冰分割

    论文名称: ** IceRWKV: A Novel River Ice Segmentation Network Based on Context Clustering RWKV

    论文链接:** https://www.mdpi.com/2072-4292/18/16/2683

    时间: ** 2026-08-10

    利用上下文聚类 RWKV 高效聚合河流冰的全局与局部特征,配合几何方向协同感知模块修正不规则冰体轮廓、抑制背景干扰。Haar 小波下采样保留高频边界,强化精度与推理效率之间的平衡。

    在论文所测 NWPU_YRCC_EX 设置下,mIoU 为 93.41%、推理速度为 37.19 FPS,参数量约 2.919M。

    1. Volute Scanning:连续扫描与层次化息肉分割

    论文名称: ** Volute Scanning-Empowered Hierarchical RWKV for Robust Polyp Segmentation

    论文链接:** https://ieeexplore.ieee.org/abstract/document/11643383

    时间: ** 2026-08-05

    采用层次化 RWKV-in-RWKV 结构,同时建模内镜图像的全局语义与局部细节。涡旋式扫描重新组织二维特征,使 RWKV 沿连续多方向路径感知息肉区域;边缘感知 WKV 进一步改善弱边界、小区域和复杂形态的表示。

    以高效长程建模和连续扫描提升息肉分割的完整性与边界质量。

    1. Learning to prefer:奖励驱动的红外—可见光融合

    论文名称: ** Learning to prefer: Reward-driven infrared-visible fusion via RWKV

    论文链接:** https://www.sciencedirect.com/science/article/abs/pii/S1566253526005610

    时间: ** 2026-08-04

    以 RWKV 作为长程关系建模模块,并用奖励信号评价红外—可见光融合结果,引导模型根据内容自适应权衡红外目标、可见光纹理和整体结构。偏好驱动的优化有助于减少固定损失平均处理两种模态的局限。

    将 RWKV 高效建模与奖励驱动的视觉偏好优化结合,发表于 Information Fusion。

    1. Compass:模态缺失下的轻量裂缝分割

    论文名称: ** Compass: Degradation-Simulated Reciprocal Learning with Lightweight Needle RWKV for Multimodal Crack Segmentation under Missing Modalities

    论文链接:** https://arxiv.org/abs/2608.03559

    时间: ** 2026-08-04

    提出适应模态缺失的轻量裂缝分割框架。Needle RWKV 模块把裂缝方向先验注入 WKV 调制,增强结构连通性感知;退化模拟蒸馏补全缺失语义,证据融合抑制不可靠信息,实现轻量建模与鲁棒分割协同。

    模型仅 2.58M 参数;在 CrackDepth 深度模态缺失 90% 的条件下仍保持较强分割表现。、

    Compass:模态缺失条件下的裂缝分割研究示意图

    1. RWKV-TS+:跨批次长提示与时间序列任务

    论文名称: ** RWKV-TS+: Adaptive Long-range Prompt for Multiple Time Series Tasks

    论文链接:** https://ieeexplore.ieee.org/abstract/document/11625994

    时间: ** 2026-07-27

    无需新增参数,即可将时间序列的历史信息交互扩展到批次之外。通过补丁特征收集、跨批次时间特征聚合和长提示算子,把历史 RWKV 状态注入下一批次,利用更长历史支持预测、分类、异常检测与缺失值填补。

    以跨批次状态传递扩展长程建模能力,发表于 IEEE TKDE。

    RWKV-TS+:跨批次的长程时间序列提示研究示意图

    1. FBG-PhysNet:锂电池内部温度与应变估计

    论文名称: ** Single-fibre internal observability in lithium-ion batteries

    论文链接:** https://www.researchsquare.com/article/rs-10142450/v1

    时间: ** 2026-07-27

    将单根光纤布拉格光栅传感与 RWKV-7 固定状态推理结合,用于实时估计锂电池内部温度和机械应变。电化学热生成条件与九项可微物理约束共同缓解温度—应变耦合的反演难题;RWKV 的紧凑循环状态支持连续监测与轻量部署研究。

    突出 RWKV 固定状态推理与物理约束结合,为电池内部状态监测提供高效建模方案。

    1. UD-ML-RWKV:径流预测中的超参数优化

    论文名称: ** Enhancing Daily Runoff Prediction via Uniform Design and Meta-Learning Integrated Hyperparameter Optimization Embedded in Transformer

    论文链接:** https://www.mdpi.com/2306-5338/13/8/201

    时间: ** 2026-07-25

    研究以 UD-ML-Transformer 为主方法,同时比较 PSO-RWKV、UD-RWKV 与 UD-ML-RWKV。RWKV 提供可并行训练、线性时间推理的序列骨干;均匀设计与元学习也能改善其超参数配置,展示高效循环架构在径流预测中的可优化性。

    UD-ML-RWKV 相对两种 RWKV 调参基线,NSE 提升 0.45%—7.65%,RMSE 降低 1.47%—21.18%。

    1. CLUIE:内容自适应的水下图像增强

    论文名称: ** CLUIE: Clustering-Aware Recurrent Propagation with Local Structural Compensation for Underwater Image Enhancement

    论文链接:** https://arxiv.org/abs/2607.21467

    时间: ** 2026-07-23

    将固定的 RWKV 扫描路径改为内容自适应的 token 轨迹:聚类感知语义动态重排让 WKV 状态沿相似区域积累,暗响应调制的局部传播补回重排损失的邻域连续性。由此更有针对性地处理水下图像不同区域的色偏、低对比度和细节退化。

    保留线性复杂度长程建模,在多个水下图像增强基准上报告领先定量结果与视觉质量。

    1. CDBC-Net:运动想象脑电的时序证据积累

    论文名称: ** Predictive Temporal Evidence Accumulation for Robust Motor Imagery EEG Decoding with CDBC-Net

    论文链接:** https://papers.ssrn.com/sol3/papers.cfm?abstract_id=7163019

    时间: ** 2026-07-22

    以双分支协同建模运动想象脑电: 空间频谱分支提取局部运动节律,RWKV 时间分支持续积累历史证据。未来 token 正则、视图一致性及跨分支对齐增强跨时间、跨被试的鲁棒性。

    四个数据集上,被试相关与留一被试评测平均准确率分别为 87.54% 与 80.59%。

    1. DDLSR:任意倍率 MRI 超分辨率

    论文名称: ** DDLSR: Dual domain learning and Arbitrary-Upsample MRI Super-Resolution via Spectro-Spatial linear attention

    论文链接:** https://www.sciencedirect.com/science/article/abs/pii/S1746809426016253

    时间: ** 2026-07-21

    将 RWKV 的双向 WKV 机制适配到二维 MRI 图像,用高效全局建模替代传统自注意力,再与频域分支、深度卷积和隐式上采样协同恢复解剖结构及高频细节。支持连续、任意倍率重建,降低高分辨率建模的计算负担。

    单序列/多对比度设置中平均 PSNR 增益为 0.68/0.42 dB,SSIM 增益为 0.0135/0.0067。

    1. 双视角 Vision-RWKV:考古骨签的数字化分类

    论文名称: ** Bone Stick Classification via Dual-view Parallel Vision Architecture

    论文链接:** https://www.sciengine.com/QKW-CSandA/doi/10.15888/j.cnki.csa.010242

    时间: ** 2026-07-17

    面向汉长安城未央宫出土骨签的数字化分类,先以改进的 UNet++ 分割骨签主体,再用两个并行的 Vision-RWKV 分支分别提取正面与背面特征,通过协同特征融合完成分类。双视角建模把不同面的互补信息纳入同一分类流程,为考古文物的整理与研究提供视觉分析方法。

    论文报告分类准确率为 94.76%,展示 RWKV 在考古文物数字化中的应用。

    1. CMRWNet:跨模态 RWKV 与高保真全色锐化

    论文名称: ** CMRWNet: Cross-Modal RWKV Network With Window-Guided Alignment for High-Fidelity Pansharpening

    论文链接:** https://ieeexplore.ieee.org/abstract/document/11614160

    时间: ** 2026-07-17

    通过跨模态 RWKV 融合实现多光谱与全色图像的精细对齐及光谱稳定注入。PAN-RWKV 沿行、列执行前缀衰减扫描,以线性复杂度捕捉全局空间依赖,使融合兼顾空间细节、光谱保真与计算效率。

    高效全局建模支撑高保真全色锐化,发表于 IEEE JSTARS。

    1. LB-RiR:食管 OCT 的组织层与边界分割

    论文名称: ** LB-RiR: Lateral and Boundary-Aware RWKV-in-RWKV for Esophageal OCT Segmentation

    论文链接:** https://ieeexplore.ieee.org/abstract/document/11610969

    时间: ** 2026-07-15

    采用轴向局部、横向全局的 RWKV-in-RWKV 建模策略,处理食管 OCT 图像的散斑噪声、组织折叠和弱边界。通过相邻扫描间的双向状态交互维持组织层连续性,并结合区域重叠、边界梯度及拓扑一致性约束改善边界收敛。

    把 RWKV 高效序列建模用于组织层结构与边界保持,发表于 IEEE Access。

    1. FreRWKV-Net:频率引导的视网膜血管分割

    论文名称: ** FreRWKV-Net: Frequency-Guided Efficient Sequence Modeling for Retinal Vessel Segmentation

    论文链接:** https://link.springer.com/chapter/10.1007/978-981-92-3495-0_14

    时间: ** 2026-07-15

    将 Vision RWKV 的高效长程建模与离散小波频率信息结合,并采用适配血管结构的扫描策略。兼顾细小毛细血管与主要血管的尺度差异,补充血管边缘和高频细节,提高视网膜血管的多尺度结构表达。

    以频率引导的 RWKV 建模兼顾细节与长程连通性,收录于 ICIC 2026 论文集。

    1. HyperRWKV:超图与全局—局部医学图像感知

    论文名称: ** HyperRWKV: Mimicking Human Visual Perception with Hypergraph RWKV for Medical Image Segmentation

    论文链接:** https://link.springer.com/chapter/10.1007/978-981-92-3495-0_2

    时间: ** 2026-07-15

    采用全局—局部两级感知结构: U-Net 编码后由 RWKV 解码器高效整合长程上下文,多感受野超图融合空间、频域与多尺度线索。使医学图像分割在保留细节的同时兼顾全局语义,减少单一局部感受野带来的限制。

    RWKV 与超图协同增强全局感知和多尺度细节表达,收录于 ICIC 2026 论文集。

    1. One More Time:强化学习视角下的神经量子态

    论文名称: ** One More Time: Revisiting Neural Quantum States from a Reinforcement Learning Perspective

    论文链接:** https://arxiv.org/abs/2607.02292

    时间: ** 2026-07-02

    将 1.5B 参数 RWKV-7 微调为自回归神经量子态,为量子多体波函数提供大规模序列表示。论文同时提出 PWO 优化算法,通过概率比与相位增量裁剪改善所测物理系统的训练稳定性和收敛,展示 RWKV 在科学计算中的扩展潜力。

    实现 15 亿参数 RWKV-7 的神经量子态建模,模型规模较此前工作扩展三个数量级以上。

    One More Time:用强化学习视角优化神经量子态研究示意图

    1. MG-RWKV:多粒度视频时序伪造定位

    论文名称: ** MG-RWKV: Multi-Grained Context-Aware RWKV for Temporal Forgery Localization

    论文链接:** https://arxiv.org/abs/2607.00902

    时间: ** 2026-07-01

    利用 RWKV 的数据依赖状态演化,以 O(T) 复杂度处理完整序列的伪造片段定位。双向 RWKV 聚合前后文,多粒度专家路由适配不同篡改时长,跨粒度一致性约束减少真实区域误报,兼顾全局正常背景与局部突变边界。

    在 Lav-DF、TVIL 与 Psynd 上以较低计算成本报告领先的时序伪造定位表现。

    1. RWKV MIDI Generator:网页交互式旋律生成

    论文名称: ** Pengembangan Sistem Generator MIDI Berbasis Web Menggunakan Arsitektur RWKV

    论文链接:** https://jurnal.ilmubersama.com/index.php/sudo/article/view/1777

    时间: ** 2026-06-30

    以 RWKV 作为 MIDI 旋律生成骨干,将音符序列 token 化后学习音乐中的长程依赖,并接入 Gradio 网页界面。利用高效循环生成控制资源消耗与响应延迟,展示 RWKV 在自动音乐创作及交互式生成中的应用。

    把 RWKV 的序列效率用于网页旋律生成,形成可交互的 MIDI 创作系统。

    1. ASSCG:自动驾驶快慢系统的自适应门控

    论文名称: ** ASSCG: Just-Right Gating over Chattering for Fast-Slow LLM Planning in Autonomous Driving

    论文链接:** https://arxiv.org/abs/2606.25509

    时间: ** 2026-06-24

    采用 RWKV 骨干构建自动驾驶快慢系统门控,逐帧选择调用、复用缓存或屏蔽慢系统指导。以资源感知序列决策减少低收益的大模型调用,结合监督与算力感知强化训练,改善规划效率。

    nuPlan Hard20 中得分提高 2.28、平均端到端推理延迟下降约 60%;NAVSIM 中达 91.4 PDMS。

    1. LCD:利用中间层状态缓解大模型幻觉

    论文名称: ** Learnable Contrastive Decoding for Dehallucination in LLMs

    论文链接:** https://linklings.s3.amazonaws.com/organizations/WCCI/wcci2026/submissions/stype114/bFCz8-ijcnn_pap5163s2.pdf

    时间: ** 2026-06-21

    利用 RWKV 的中间层状态进行可学习对比解码,动态选择互补语义层并与最终层分布融合,以轻量推理干预增强事实性、一致性与多样性。主语言模型参数保持不变,另行训练选择与融合模块。

    在 WritingPrompts、TruthfulQA 和 GSM8K 上验证解码改进,发挥 RWKV 多层状态的语义价值。

    1. Neural Events:离散神经事件与异步视觉压缩

    论文名称: ** Neural Events: Discrete Asynchronous Autoencoders for Event-Based Vision

    论文链接:** https://arxiv.org/abs/2606.19835

    时间: ** 2026-06-18

    以 RWKV-7 循环更新局部时空记忆,将原始事件流映射为离散可学习编码,仅在编码变化时生成新的神经事件。高效序列编码与语义压缩协同,降低事件流吞吐负担,同时保留检测、分类需要的关键时间信息。

    在检测与分类表现相当或更优的同时,事件率降低到约一半。

    1. RWKV 移动信道预测:全局模式与时间顺序协同

    论文名称: ** Synergizing Global Pattern Learning and Time Order Characterization in Mobile Channel Prediction: An RWKV-Based Approach

    论文链接:** https://arxiv.org/abs/2606.16170

    时间: ** 2026-06-15

    以 RWKV 作为移动信道预测骨干,交错结构提取多个信道样本的共享全局模式,指数衰减机制编码时间顺序与动态因果关系。联合利用全局学习与时序结构,提高快速变化信道的预测能力。

    相对 LSTM 与 Transformer 基线,NMSE 改善 1.84—4.29 dB,余弦相关性提升 2.6—10.5 个百分点。

    1. RWKV-CVM:门控跨变量电力负荷预测

    论文名称: ** RWKV-CVM: Gated Cross-Variate Mixing for Multivariate Power Load Forecasting

    论文链接:** https://www.mdpi.com/2673-4826/7/2/58

    时间: ** 2026-06-15(官网条目日期;期刊公开日期为 2026-06-18)

    在 RWKV-TS 上增加门控跨变量混合模块,选择性融合天气与邻近负荷区域等相关变量,并保留骨干的线性时间复杂度。仅新增 65 个可训练参数;在统一实验设置下,较长预测跨度的表现得到改善。

    三个测试设置中跨预测跨度平均 MSE 最低,体现轻量信息交互的价值;优势随任务设置而变化。

    1. Random Shuffle High-order RWKV:随机洗牌与全色锐化

    论文名称: ** Random shuffle high-order RWKV for pan-sharpening

    论文链接:** https://www.sciencedirect.com/science/article/pii/S1566253526004239

    时间: ** 2026-06-10

    采用随机洗牌与逆洗牌减轻视觉 RWKV 二维扫描的方向偏置,通过 WKV 共享降低交互延迟,以高阶通道混合和最大池化强化非线性表达与高频细节。用于融合全色与多光谱信息,兼顾光谱与空间质量。

    保留视觉 RWKV 的线性复杂度优势,在论文测试基准上报告领先的全色锐化表现。

    1. EGGROLL-IPO:去中心化后训练与群体偏好对齐

    论文名称: ** EGGROLL-IPO: Pluralistic Alignment via Decentralised Post-Training with Population Preferences

    论文链接:** https://openreview.net/forum?id=5P7ihyDNi8

    时间: ** 2026-06-10

    以 RWKV-7 G1 0.1B 为基础策略,采用去中心化 EGGROLL 后训练,并把 Online IPO 损失转换为各工作者的标量适应度。借助群体偏好引导模型更新,在受控偏好实验中改善循环偏好处理、无关选项不变性与收敛稳定性。

    展示 RWKV 在去中心化偏好对齐中的可用性;真实偏好数据上的泛化仍受实验局限约束。

    1. 共享 RWKV:退化感知的光场图像质量评价

    论文名称: ** Degradation-Aware Blind Light-Field Image Quality Assessment With Linear Attention

    论文链接:** https://ieeexplore.ieee.org/abstract/document/11557154

    时间: ** 2026-06-10

    在空间与角度分支共享 RWKV 模块,以较低参数开销建模光场图像的长程依赖。通过微透镜可靠性图抑制局部退化影响,再融合空间与角度线索,提高复杂退化条件下的无参考质量评价稳健性。

    参数共享与线性建模兼顾质量评估能力和计算开销,发表于 IEEE Signal Processing Letters。

    1. ECC:率失真视角下的神经语音压缩

    论文名称: ** Benchmarking Neural Speech Compression from a Rate-Distortion Perspective

    论文链接:** https://arxiv.org/abs/2606.11631

    时间: ** 2026-06-10

    采用 Conv-RWKV 混合模块: CNN 提取局部时频模式,RWKV 建模长程语音依赖,再配合超先验、逐通道上下文和熵约束编码改善低码率率失真表现。压缩收益来自完整 ECC 系统中多个模块的协同。

    两个测试集上 BD-rate 平均下降 39.9%(ViSQOL)与 76.3%(PESQ)。

    1. P-RWKV / PointER:高效三维点云表示学习

    论文名称: ** Efficient RWKV-based Representation Learning for 3D Point Clouds

    论文链接:** https://arxiv.org/abs/2606.10395

    时间: ** 2026-06-09

    提出适配不规则三维点云的 P-RWKV,以局部感知扩展和空间上下文增强补充几何信息,并保留 RWKV 序列建模的效率优势。PointER 用堆叠 P-RWKV 构建自监督编码器,核心模块还可插入其他架构与跨模态设置。

    在多种点云任务上,以较低计算成本和推理延迟取得有竞争力的表现。

    1. PathRWKV:全切片病理图像的非对称循环建模

    论文名称: ** PathRWKV: Enhancing Whole Slide Image Inference with Asymmetric Recurrent Modeling

    论文链接:** https://ieeexplore.ieee.org/abstract/document/11554093/

    时间: ** 2026-06-08

    用非对称 RWKV 结构分别满足病理全切片的训练与推理需求:训练采用并行计算,推理采用固定状态循环处理。结合位置编码与多任务学习,增强长序列和多尺度组织区域的表示,在降低推理状态内存需求的同时保持全切片分析能力。

    实现 O(1) 推理状态内存复杂度;在 11 个数据集、29,073 张切片上验证,发表于 IEEE TMI。

    PathRWKV:全切片病理图像分析研究示意图

    1. Tailored RWKV:时空非线性动力学预测

    论文名称: ** Fast and effective prediction of spatiotemporal nonlinear dynamics using the tailored RWKV architecture

    论文链接:** https://iopscience.iop.org/article/10.1088/2515-7647/ae79be/meta

    时间: ** 2026-06-08

    将 RWKV 定制为多模光纤脉冲传播的时空预测模型,直接学习复杂空间与时间依赖。借助并行训练和高效循环建模,用更少参数获得较低误差,并支持高分辨率空间场预测。

    论文时域实验中参数量为 85,744、训练时间为 6 分 32 秒,平均 MSE 为 1.54×10⁻⁵。

    RWKV 模型新闻动态

    最新进展:RWKV-7 G1k 发布,推进 RNN 的智能上限

    10 月 8 日,RWKV 官方公众号介绍了 《RWKV7 G1k发布:推进RNN的智能上限》,分享 G1 系列的最新版本与训练进展。

    根据官方发布介绍,13B 版本已能稳定答对 2026 年高考数学所有客观题,累计训练量为 9.8T token。发布介绍强调,这一进展来自纯基模的持续训练,并展示了不同规模模型的训练曲线。

    在模型获取方面,官方 G1k 集合已提供 1.5B、2.9B、7.2B、13.3B 四种规模的 Transformers 格式模型,便于开发者根据自己的研究与部署需求选择。查看 G1k 官方模型集合

    官方 13.3B 模型资料同时介绍了 RWKV-7 的固定大小循环状态和可并行训练特性,并提供推理、后训练与微调的使用入口。模型能力的持续迭代,也为社区开展应用验证和工程适配提供了新的基础。查看 G1k 13.3B 官方模型资料

    RWKV-7 G1k发布文章配图(来源:转自知乎用户 PENG Bo)

    从 1B 到 13B:分享 RWKV-7 训练记录

    7 月 23 日,RWKV 分享了从 1B 到 13B 不同规模模型的训练记录,通过训练曲线展示模型的持续训练过程。

    RWKV-7训练记录曲线(来源:转自知乎用户 PENG Bo)

    结合后续 G1i、G1j、G1k 的更新,这份记录为关注 RWKV 的研究者与开发者提供了观察模型迭代的材料,让大家能够从训练过程出发了解不同规模模型的变化。

    详细报道: 《分享RWKV-7迄今的训练记录,从1B到13B》。

    RWKV-7 G1i 发布,RWKV-8 RPU 预告

    8 月 8 日,RWKV 发布 G1i 版本,并同步预告 RWKV-8 RPU 方向。

    在推进 RWKV-7 模型迭代的同时,团队也开始分享下一阶段的研发动向。G1i 是本期版本回顾中的一个节点,RPU 预告则提供了后续研发线索。

    RWKV-7 G1j 发布,继续分享 RWKV-8 RPU 进展

    9 月 3 日,RWKV 发布 G1j,并继续介绍 RWKV-8 RPU 的研发进展。相关报道展示了模型下载入口与基模评测,为社区跟进新版本提供了参考。

    G1j 的发布与后续 G1k 更新共同构成本期模型迭代的主线。开发者可以通过 BlinkDL 官方模型库 跟进 G1 系列模型,也可以从 G1k 官方集合 获取本次更新对应的版本。

    RWKV 社区项目与活动动态

    G1k 模型获取与开发入口

    截至本次更新,官方 G1k 集合提供多种规模的 Transformers 格式模型。13.3B 模型资料包含推理、后训练与 LoRA 微调的相关入口,方便开发者围绕新版本开展研究与工程验证。官方模型资料

    模型入口: G1k 官方集合;BlinkDL G1 系列模型库。

    奖金 120 万:改进 RWKV-7 推理框架适配

    7 月 1 日,RWKV 发布推理框架适配改进征集,涉及 vLLM、SGLang、Transformers、llama.cpp 等框架,邀请开发者参与 RWKV-7 的工程适配与生态建设。

    推理框架适配关系到模型的部署、服务集成与日常使用。从 7 月的适配征集,到本次 G1k 的模型获取与开发入口,工程生态建设与模型能力更新共同构成了社区的关注方向。

    RWKV 亮相 WAIC 2026:让每个人都有 1000 个 Agent 员工

    7 月,RWKV 发布 WAIC 2026 展位预热与现场回顾,围绕高并发和多 Agent 应用开展展示。

    以“让每个人都有 1000 个 Agent 员工”为主题,RWKV 将模型架构的探索与多 Agent 应用场景联系起来,让参观者在展位了解相关展示,也为社区交流与开发者互动提供了机会。

    相关报道分别于 7 月 10 日和 7 月 21 日发布。

    OmniZip 论文研讨会:统一多模态无损压缩

    8 月 27 日,RWKV 论文研讨会第 2 期围绕 OmniZip:基于 RWKV 的统一多模态无损压缩展开分享。

    这一主题将 RWKV 的序列建模与多模态压缩联系起来,为社区了解相关研究提供了交流入口。活动预告于 8 月 21 日发布,直播回顾于 9 月 8 日上线,方便未能参与直播的读者继续了解分享内容。

    Restore-RWKV 论文研讨会:高效医学图像复原

    9 月 29 日,RWKV 论文研讨会第 3 期以 Restore-RWKV:基于 RWKV 的高效医学图像复原为主题,分享医学影像方向的研究工作。

    活动预告于 9 月 23 日发布,直播回顾于 9 月 30 日上线。从医学图像分割到医学图像复原,相关研究与社区分享为不同任务中的 RWKV 应用提供了更多参考。

    社区观点:Bo 谈“最低 AGI”标准与“两朵乌云”

    7 月 2 日,PENG Bo 分享了对前沿 AI 能力的观察,围绕理解力、创造力,以及数据清洗与生成能力展开讨论。

    在这篇观点文章中,Bo 从实用角度讨论“最低 AGI”的观察标准,关注 AI 处理训练数据时的可靠性,为社区思考模型能力与数据质量的关系提供了一个讨论视角。

    主楼
  • chumo

    太长了吧,看不完😍。

    #1

发表回复

登录后回复