欢迎大家来到IT世界,在知识的湖畔探索吧!
金融界2024年10月24日消息,国家知识产权局信息显示,澜起科技股份有限公司申请一项名为“提高模型量化的精度的方法及装置”的专利,公开号 CN A,申请日期为2023年4月。
专利摘要显示,本申请涉及神经网络模型技术领域,公开了一种提高模型量化的精度的方法及装置。所述方法包括:获取浮点模型,所述浮点模型具有多个浮点数层,并计算所述浮点模型的所有浮点数层的累计原始输出;分别单独地选择所述浮点模型中的一浮点数层进行量化形成包括一个量化层的混合模型,并计算所述混合模型中所有层的累计输出相对于所述累计原始输出的误差;对计算出的误差值进行排序;以及将所述浮点模型的所有浮点数层全部进行量化,按照误差值从高到低的顺序将对应的量化层逐个地恢复为浮点数层并计算恢复后的模型的所有层的累计输出与所述累计原始输出之间的差值,直至所述差值小于预设损耗阈值,以获得目标混合模型。本申请可以优化混合模型精度。
本文源自金融界
免责声明:本站所有文章内容,图片,视频等均是来源于用户投稿和互联网及文摘转载整编而成,不代表本站观点,不承担相关法律责任。其著作权各归其原作者或其出版社所有。如发现本站有涉嫌抄袭侵权/违法违规的内容,侵犯到您的权益,请在线联系站长,一经查实,本站将立刻删除。 本文来自网络,若有侵权,请联系删除,如若转载,请注明出处:https://itzsg.com/114728.html