首页 > 物理

山东大学 刘琚Electronics Letters:核学习赋能轻量化视频Transformer方法

MaterialsViews 2025-01-05 08:30
文章摘要
本文针对现有视频Transformer方法计算复杂度高、模型参数量大的问题,提出了一种基于核学习的轻量化视频Transformer方法。通过重新表述Softmax自注意力机制和位置嵌入,设计复用方法和线性核变换矩阵压缩参数,改进了分离的空时注意力机制,增强了外观和运动特征之间的交互。同时,提出了自适应得分的位置编码模块,增强了位置嵌入的灵活性。实验结果表明,所提方法在计算效率和精度上均优于现有Transformer方法。
山东大学 刘琚Electronics Letters:核学习赋能轻量化视频Transformer方法
本站注明稿件来源为其他媒体的文/图等稿件均为转载稿,本站转载出于非商业性的教育和科研之目的,并不意味着赞同其观点或证实其内容的真实性。如转载稿涉及版权等问题,请作者速来电或来函联系。
推荐文献
Issue Editorial Masthead
DOI: 10.1021/efv038i024_187986510.1021/efv038i024_1879865 Pub Date : 2024-12-19
IF 5.2 3区 工程技术 Q2
最新文章
【催化】Small Methods:空间限域电合成低卤素和富羰基石墨烯用于促进水脱盐和水分解
【催化】Small Methods:空间限域电合成低卤素和富羰基石墨烯用于促进水脱盐和水分解
研究背景:石墨烯衍生物和石墨烯复合物具有区别于石墨烯的优越物理、化学活性,被广泛应用在化学等领域。目前,大规模制备石墨烯衍生物和石墨烯复合物主要方法包括氧化还原法和球磨法。氧化还原法基于以氧化石墨烯为
8小时前
德国伊尔梅瑙工业大学雷勇,郑州大学邵国胜Small:基于氮掺杂碳材料的钾离子电池高性能负极材料开发新进展
德国伊尔梅瑙工业大学雷勇,郑州大学邵国胜Small:基于氮掺杂碳材料的钾离子电池高性能负极材料开发新进展
基于还原电位低与经济性,钾离子电池(PIBs)有希望成为大规模可再生能源存储应用的新选择。开发低成本快充的PIBs的关键问题之一是开发高性能的负极材料。近年兴起的负极材料普遍遭受不同程度窘境,包括反应
8小时前
北科大 王茜、郑金龙Small:新型二维MBenes材料的结构、合成及其在能源转换与存储领域的应用
北科大 王茜、郑金龙Small:新型二维MBenes材料的结构、合成及其在能源转换与存储领域的应用
随着科技发展对材料性能要求的持续攀升,传统二维材料已难以满足多元需求,探索性能卓越的新材料成为必然趋势。在二维材料的研究过程中,MXenes率先崭露头角,其诸多特性引发广泛关注,然而其易氧化及稳定性欠
8小时前
BCPT期刊对天然产物、传统中药和系统药理学研究的评述
BCPT期刊对天然产物、传统中药和系统药理学研究的评述
BCPT 期刊对天然产物、传统中药和系统药理学研究的评述天然产物是生物活性化合物的巨大来源,为创新药物提供了有价值的前景。然而,从药理学观点来看,天然产物研究也带有严重的局限性,例如,由于生物提取物的
8小时前
Book学术官方微信
Book学术文献互助
Book学术文献互助群
群 号:481959085
Book学术
文献互助 智能选刊 最新文献 互助须知 联系我们:info@booksci.cn
Book学术提供免费学术资源搜索服务,方便国内外学者检索中英文文献。致力于提供最便捷和优质的服务体验。
Copyright © 2023 Book学术 All rights reserved.
ghs 京公网安备 11010802042870号 京ICP备2023020795号-1