药物开发是一个复杂且成本高昂的过程,伴随着高失败率和漫长的开发周期。传统的药物发现过程需要从靶点识别到临床试验的各个阶段进行大量的实验验证,这往往消耗大量的时间和资源。然而,随着计算方法,特别是机器学习和预测建模的兴起,这一过程有望得到优化。
为了应对当前计算模型在多种治疗任务中的局限性,谷歌 AI 推出了 TxGemma,这是一个专为药物开发中的各种治疗任务设计的通用大规模语言模型(LLM)系列。TxGemma 的独特之处在于,它整合了来自不同领域的数据集,包括小分子、蛋白质、核酸、疾病和细胞系,使其能够覆盖治疗开发流程的多个阶段。该系列模型提供了2亿(2B)、9亿(9B)和27亿(27B)参数的选择,均基于 Gemma-2架构经过全面的治疗数据集微调而成。此外,TxGemma 还包含一个交互式的对话模型 TxGemma-Chat,科学家可以通过它进行详细的讨论和机制解释,从而提升模型的透明度。
从技术角度来看,TxGemma 利用了治疗数据共同体(TDC),这是一个涵盖6600万条数据点的综合数据集。TxGemma-Predict 作为模型系列中的预测变体,在这些数据集上表现出色,其性能与目前在治疗建模中使用的通用模型和专业模型相当或更优。值得一提的是,TxGemma 的微调方法在数据稀缺的领域提供了重要优势,因为它能够在显著减少训练样本的情况下优化预测准确性。
TxGemma 的实用性在临床试验的不良事件预测中得到了充分体现,这是治疗安全性评估中的关键环节。TxGemma-27B-Predict 展现出强大的预测性能,同时使用的训练样本显著少于传统模型,表明其在数据效率和可靠性方面的提升。此外,TxGemma 的推理速度也支持实际的实时应用,尤其是在虚拟筛选等场景中,27B 参数的模型能够高效处理大规模样本。
谷歌 AI 推出的 TxGemma 标志着计算治疗研究的又一重要进展,结合了预测效能、互动推理和数据效率。通过将 TxGemma 公开,谷歌使得进一步验证和适应多种专有数据集成为可能,推动治疗研究的更广泛适用性和可重复性。
模型:https://huggingface.co/collections/google/txgemma-release-67dd92e931c857d15e4d1e87
划重点:
🌟 TxGemma 是谷歌 AI 推出的通用大规模语言模型系列,旨在优化药物开发的多个治疗任务。
🔬 该模型系列整合了广泛的数据集,表现出色,特别是在临床试验不良事件预测中。
🚀 TxGemma 的推理速度支持实时应用,为药物开发提供了强大的计算支持。