资讯
展览资讯 大型展会 灯光节 大型盛典 赛事 中标捷报 产品快讯 热门话题 艺术节 活动 演出 新闻 数艺报道 俱乐部签约
观点
大咖专访 观点洞察 书籍推荐 吐槽 设计观点 企业访谈 问答 趋势创新 论文 职场方法 薪资报价 数艺专访
幕后
幕后故事 团队访谈 经验分享 解密 评测 数艺访谈
干货
设计方案 策划方案 素材资源 教程 文案资源 PPT下载 入门宝典 作品合集 产品手册 电子书 项目对接
  • 0
  • 0
  • 0

分享

[CHI 2026] 把一首诗拆开再画出来,能读懂更多吗?

10-09

读到“月出惊山鸟”,画面里应该先看见月亮,还是先注意到被惊起的鸟?月光落在哪里,鸟与山谷保持多远的距离,都会改变这句诗给人的感觉。若把整首诗交给 AI,等它直接返回一张漂亮插画,这些选择很容易在生成过程里消失。读者看见了结果,却未必想过它为什么应该这样被画出来。

发表于 CHI 2026 的《PoemPalette: Facilitating Poetry Creative Exploration and Foundational Understanding through the Ideorealm Alignment of Paintings and Poems》,尝试把这段被省略的过程重新交给读者。系统以中国古典美学中的诗画意境关联为设计基础,让诗歌爱好者提取意象、组织关系,再亲手构图,探索自己理解的诗境。

论文图 1:从诗中标记关键词,到建立场景图、生成意象素材和组织诗画。图中呈现的是可介入的创作过程,右侧生成画面并非诗意的唯一解释。

山、鸟与月亮,先成为可以修改的关系

PoemPalette 的起点是一张场景图。系统用大语言模型识别诗中的对象、属性与关系,把黄鹂、柳树、白鹭等意象转成节点,把鸣叫、飞向或停泊等联系显示出来。读者可以检查这些关系,调整并扩展它们。为了降低入门负担,系统先提供轻量的初始图,避免让每个人从空白画布开始。

这种中间表示让解释变得具体。例如“两只黄鹂”包含数量,“鸣翠柳”包含动作和位置,不能只因为生成图里出现一只黄色小鸟,就认为它忠实表达了原句。把这些条件显露出来,读者才有机会发现模型遗漏了什么,也能更清楚地提出自己的修改。

这里仍有一个张力:诗歌允许含混和多义,节点与连线却倾向于给出确定关系。它适合帮助读者抓住显性的意象,但一张图很难容纳双关、典故与复杂隐喻。初始场景图也包含模型或设计者的解释,不能被当成已经核定的阅读答案。

论文图 3:PoemPalette 的界面。左侧是诗画工作区和意象素材,中间显示诗句,右侧提供场景图、问答、色彩与情绪分析;读者可在文字和画面之间反复调整。

亲手摆放意象,让生成成为一次阅读

场景图建立之后,AI 为核心意象生成单独的图像素材。读者把素材拖入画布,调整位置、大小与层次,再让系统补充背景和细节,使拼贴成为风格连贯的画面。对于绝句,系统可以按句组织画面,而不必把所有意象挤进一幅图里。

这个流程把“画得是否好看”与“画面是否对应诗句”放在同一个工作区里。读者能点击场景图中的意象,定位生成图里对应的视觉元素。文字与图像之间的联系因此可以被逐项检查:船是否停在门外,山是否被窗框纳入视野,哪些细节来自原诗,哪些是生成时新增的联想。

论文图 7:点击场景图中的意象词,定位并突出画面中的对应元素。这种联动帮助读者检查诗句与视觉元素之间的关系。

问答助手则承担另一部分阅读工作。它提供诗人生平、历史背景、内容和语言技巧等解释,也支持继续追问。设计上,客观事实应被核清,开放问题则保留不同理解。访谈中有人觉得向 AI 提问更轻松,但作者也承认,聊天和鲜明画面可能转移注意力,让读者减少对诗句本身的细读。

更愿意探索,并不等于理解一定更好

研究先访谈六位有诗歌教学经验的教师,再招募六十名诗歌兴趣者开展组间实验。唐诗与日本俳句各三十人,每种诗歌再分为 PoemPalette、普通 AI 和非 AI 三组,每组十人。普通 AI 组使用相同底层语言模型和风格生成模型;非 AI 组使用专家确认的文字与图像材料。

两类诗歌的结果都支持 PoemPalette 在创意支持指数的探索维度及总分上优于两个对照。唐诗组的表达性也更高,俳句组却只在与非 AI 对照相比时体现这一优势,沉浸感也没有显著组间差异。优势会随任务和指标变化,不能概括成每一种体验都全面提升。

论文图 17:唐诗组用 PoemPalette 创作的《鸟鸣涧》和《春晓》画面。同一首诗出现不同视觉解释;这些作品展示创作结果,不能独立证明理解能力提升。

理解测验的结果尤其需要分开看。唐诗组中,PoemPalette 的后测平均分是 79.9,非 AI 组是 80.2,普通 AI 组是 78.5,三者十分接近。俳句组的对应分数是 87.0、86.6 和 79.7。论文报告了这些均值,但不能仅凭它们就认定系统显著胜过传统学习材料。

而且,前后测使用相同的五道开放题,测量的是基础内容、意象和情绪等理解。研究没有延迟测验,也未验证学习能否迁移到新诗。更稳妥的判断是:系统让人更愿意进行诗画探索,并提供可用的基础学习支持;它是否形成持久、深入的文学理解,仍没有答案。

为什么值得关注

PoemPalette 最有价值的设计,是把诗句与成图之间的解释过程变成可以操作、检查和讨论的对象。读者为意象选择位置、为关系寻找视觉表达,也就有机会意识到自己的阅读判断。这个思路适用于文化学习工具:保留让学习者作出判断的步骤,有时比更快给出成品更有意义。

它也提醒设计者,视觉表达有自己的边界。声音、时间流动、典故和情绪的多义性,未必能被一张图保存。未来工具需要容纳替代解释,并让画面把读者带回文字。教师提供的文化语境与讨论空间,依然是理解这类作品的重要部分。

资料来源

论文:PoemPalette: Facilitating Poetry Creative Exploration and Foundational Understanding through the Ideorealm Alignment of Paintings and Poems;

作者:Ying Zhang, Kaixin Jia, Hong Jian Zhang, Kewen Zhu, Chenye Meng, Jiesi Zhang, Zejian Li, Pei Chen, Lingyun Sun;

会议:Proceedings of the 2026 CHI Conference on Human Factors in Computing Systems (CHI ’26), April 13–17, 2026, Barcelona, Spain;

DOI:https://doi.org/10.1145/3772318.3791460

阅读原文

* 文章为作者独立观点,不代表数艺网立场转载须知

本内容由数艺网主动采集收录,信息来源为 “Art&Design.ai” 公开网络发布内容。第三方如需转载本内容,必须完整标注原作者信息及 “来源:数艺网”,严禁擅自篡改、删减或未标注来源转载。 并附上本页链接: 若您的内容不希望被数艺网收录,或认为此举侵犯了您的合法权益,敬请通过微信 ID:d-arts-cn 联系数艺网。我们将致以诚挚歉意,并第一时间为您办理下架或删除处理。

数字媒体艺术 新媒体艺术 科技艺术

3375 举报
  0
登录| 注册 后参与评论