|
选自blender
作者：Carl Edwards等
机器之心编译
编辑：小舟
AI+science 领域近来有了诸多进展。
设想一下，医生写几句话来描述一种专门用于治疗患者的药物，AI 就能自动生成所需药物的确切结构。这听起来像是科幻小说，但随着自然语言和分子生物学交叉领域的进展，未来很有可能成为现实。传统意义上讲，药物创造通常依靠人工设计和构建分子结构，然后将一种新药推向市场可能需要花费超过 10 亿美元并需要十年以上的时间（Gaudelet et al., 2021）。
近来，人们对使用深度学习工具来改进计算机药物设计产生了相当大的兴趣，该领域通常被称为化学信息学（Rifaioglu et al., 2018）。然而，其中大多数实验仍然只关注分子及其低级特性，例如 logP，辛醇 / 水分配系数等。未来我们需要对分子设计进行更高级别的控制，并通过自然语言轻松实现控制。
来自伊利诺伊大学厄巴纳-香槟分校和 Google X 的研究者通过提出两项新任务来实现分子与自然语言转换的研究目标：1）为分子生成描述；2）在文本指导下从头生成分子。
论文地址：http://blender.cs.illinois.edu/paper/molt5.pdf
如下图所示，文本指导分子生成任务是创建一个与给定自然语言描述相匹配的分子，这将有助于加速多个科学领域的研究。
在多模态模型领域，自然语言处理和计算机视觉 (V+L) 的交叉点已被广泛研究。通过自然语言实现对图像的语义级控制已取得一些进展，人们对多模态数据和模型越来越感兴趣。
该研究提出的分子 - 语言任务与 V+L 任务有一些相似之处，但也有几个特殊的难点：1）为分子创建注释需要大量的专业知识，2）因此，很难获得大量的分子 - 描述对，3) 同一个分子可以具有许多功能，需要多种不同的描述方式，这导致 4) 现有评估指标（例如 BLEU）无法充分评估这些任务。
为了解决数据稀缺的问题，该研究提出了一种新的自监督学习框架 MolT5（Molecular T5），其灵感来源于预训练多语言模型的最新进展（Devlin et al., 2019; Liu et al., 2020）。MolT5 首先使用简单的去噪目标在大量未标记的自然语言文本和分子字符串上预训练模型。之后，预训练模型在有限的黄金标准注释上进行微调。
此外，为了充分评估分子描述或生成模型，该研究提出了一个名为 Text2Mol 的新指标（Edwards et al., 2021）。Text2Mol 重新调整了检索模型的用途，以分别评估实际分子 / 描述和生成的描述 / 分子之间的相似性。
多模态文本 - 分子表示模型 MolT5
研究人员可以从互联网上抓取大量的自然语言文本。例如，Raffel et al. (2019) 构建了一个 Common Crawl-based 数据集，该数据集包含超过 700GB、比较干净的自然英语文本。另一方面，我们也可以从 ZINC-15 等公共数据库中获取超过 10 亿个分子的数据集。受近期大规模预训练进展的启发，该研究提出了一种新的自监督学习框架 MolT5（Molecular T5），其可以利用大量未标记的自然语言文本和分子字符串。
图 3 为 MolT5 架构图。该研究首先使用 T5.1.1（T5 的改进版本）的公共检查点（public checkpoints）之一初始化编码器 - 解码器 Transformer 模型。之后，他们使用「replace corrupted spans」目标对模型进行预训练。具体而言，在每个预训练 step 中，该研究都会采样一个包含自然语言序列和 SMILES 序列的 minibatch。对于每个序列来说，研究者将随机选择序列中的一些单词进行修改。每个连续 span 中的 corrupted token 都被一个 sentinel token 替换（如图 3 中的 [X] 和 [Y] 所示）。接下来的任务是预测 dropped-out span。
分子（例如，用 SMILES 字符串表示）可以被认为是一种具有非常独特语法的语言。直观地说，该研究的预训练阶段本质上是在来自两种不同语言的两个单语语料库上训练一个语言模型，并且两个语料库之间没有明确的对齐方式。这种方法类似于 mBERT 和 mBART 等多语言语言模型的预训练方式。由于 mBERT 等模型表现出出色的跨语言能力，该研究还期望使用 MolT5 预训练的模型对文本 - 分子翻译任务有用。
预训练之后，可以对预训练模型进行微调，以用于分子描述（molecule captioning）或生成（如图 3 的下半部分所示）。在分子生成中，输入是一个描述，输出是目标分子的 SMILES 表示。另一方面，在分子描述中，输入是某个分子的 SMILES 字符串，输出是描述输入分子的文字。
实验结果
下表 1 为分子描述测试结果，研究发现，大的预训练模型在生成逼真语言来描述分子方面，T5 或 MolT5 比 Transformer 或 RNN 要好得多。
下图 5 显示了几个不同模型输出示例。
不同模型的生成结果示例（节选）。
通常 RNN 模型在分子生成方面优于 Transformer 模型，而在分子描述任务中，大型预训练模型比 RNN 和 Transformer 模型表现得更好。众所周知，扩展模型大小和预训练数据会导致性能显着提高，但该研究的结果仍然令人惊讶。
例如，一个默认的 T5 模型，它只在文本数据上进行了预训练，能够生成比 RNN 更接近真值的分子，而且通常是有效的。并且随着语言模型规模的扩展，这种趋势持续存在，因为具有 770M 参数的 T5-large 优于具有 60M 参数的专门预训练的 MolT5-small。尽管如此，MolT5 中的预训练还是略微改善了一些分子生成结果，尤其是在有效性方面的大幅提升。
下图 4 显示了模型的结果，并且按输入描述对其进行编号。实验发现，与 T5 相比，MolT5 能够更好地理解操作分子的指令。
不同模型生成的分子示例展示。 | 
