基于预训练语言模型的汉语字形谜解谜模型
Summary
The paper addresses automatic solving of Chinese character-shape riddles (字形谜), in which the clue describes a character's components and their spatial arrangement. The authors note that general LLMs handle these poorly; GPT-4, for example, gave 玥 instead of 金 for a "人 above 玉" clue. To fill the data gap, they built a character resource from two sources. Basic attributes such as strokes, pinyin and radical for about 3,500 common characters came from the mapull/chinese-dictionary project, and decompositions came from kfcd/chaizi. Riddles were then generated automatically by filling structure-specific templates with each character's components.
The solver runs as a pipeline with three steps:
- a BGE encoder with a small feed-forward classifier predicts the character's structure type;
- a fine-tuned BART model extracts the key components;
- a lookup dictionary maps the structure and components to the answer character.
On a test set built from templates never seen in training, the system reaches 96.90% overall accuracy. This shows that fine-tuned pre-trained models can capture sub-character structure, with possible uses in language teaching and cultural applications.
Key points
- Structure types: The dataset covers five layouts (top–bottom, left–right, top–middle–bottom, left–middle–right, full enclosure).
- Split: Data is divided 7:3 into 1,052 training and 452 test riddles. The heavy skew toward left–right and top–bottom characters is offset with template-generated pseudo-data and oversampling.
- Accuracy: Structure prediction reaches 98.92%, keyword extraction 97.30%, and the combined answer 96.90%. Character accuracy equals the combined figure.
- Error sources: Errors stem from rare components such as 丩, from function words being skipped (而 misread), and from confusing top–middle–bottom with top–bottom clues.
- Code: The code is released openly on GitHub (repository "zimi").
Cite
@article{2026,
title = {{基于预训练语言模型的汉语字形谜解谜模型}},
author = {王涵玉 and 梁循 and 关真宇 and 张森森 and 牛思敏 and 王孟威 and 宋世超 and 杨丽},
journal = {中文信息学报 (Journal of Chinese Information Processing)},
year = {2026},
url = {http://jcip.cipsc.org.cn/article/id/zwxxxb_4045}
}References
- [ 12] 陈潇, 王晶晶, 李寿 山, 等 . 基 于 多 通 道 BERT 的 跨 语 言 属性级情感分类方法[ J]. 中文信息学报,2022,36 find
- ( 2):121 - 128. [ 13] 胡星武, 桂韬, 张 奇, 等 . 基 于 对 比 学 习 的 表 达 式 偏 序 关系建模[ J]. 中文信息学报,2023,37( 4):166 - 174. find
- [ 14] 桑杰端珠, 才让加 . 基于词典注入的藏汉机器翻译模型 预训练方法[ J]. 中文信息学报,2023,37( 8):43 - 51. find
- [ 15] 赵云肖, 李茹, 李 欣 杰, 等 . 基 于 汉 字 形 音 义 多 元 知 识 和标签嵌入的文本语义匹配模型[ J]. 中文信息 学 报, 2024,38( 3):42 - 55. find
- [ 16] 刘梦迪, 梁循 . 基于 偏 旁 部 首 知 识 表 示 学 习 的 汉 字 字 形相似 度 计 算 方 法 [ J]. 中 文 信 息 学 报,2021,35 find
- ( 12):47 - 59. 9. [ 17] 吴少扬, 余正涛, 黄 于 欣, 等 . 面 向 汉 越 跨 语 言 事 件 检 索的事件 预 训 练 方 法 [ J]. 中 文 信 息 学 报,2024,38 find
- ( 4):78 - 85. [ 18] 王艺臻 . 汉 语 字 谜 理 解 的 认 知 神 经 机 制 研 究 [ D]. 杭 州:浙江大学博士学位论文,2021. find
- [ 19] 卜小倩 . 体 认 语 言 学 视 域 下 汉 语 谜 语 的 认 知 机 制 研 究[ D]. 成都:四川外国语大学硕士学位论文,2021. find
- [ 20] 朱新秤, 李瑞菊, 周治金 . 谜语问题解决中线索的作用 [ J]. 心理学报,2009,41( 5):397 - 405. find
- [ 21] 李建华, 陈涛, 贾 旭 东, 等 . 中 文 大 规 模 谜 语 问 答 数 据 集构建与评测方法研究[ J]. 五邑大学学报( 自然 科 学 版),2023,37( 4):38 - 46. find
- 梁循( 1965—), 通 信 作 者, 博 士, 教 授, 博 士 生 导 师, 主要研究领域为自然语言 处 理、 商 务 智 能、 社 find