导语


AI技术逐渐成为我们生活中的一部分，其影响力和应用广泛性不断上升， 例如 OpenAI的GPT系列模型，通过大规模预训练成功吸纳并理解人类知识和智慧，为多种任务提供坚实的基础。


而在复杂且充满挑战的生物医学科学领域，AI基础模型的引入开启了一扇新的大门。该领域涉及大量的数据处理、模式识别、理论模型建构和实验验证等问题。借助AI基础模型，我们能够从全新的角度观察和理解这个领域的问题，进一步加速科学研究步伐、提高医疗服务效率和效果。此次分享中，上海AI实验室的张少霆老师及上海交通大学的张晓凡老师将讨论医疗场景中的基础模型，介绍当前的技术如何实现以及未来的挑战。


集智俱乐部联合西湖大学助理教授吴泰霖、斯坦福大学计算机科学系博士后研究员王瀚宸、博士研究生黄柯鑫、黄倩，华盛顿大学博士研究生屠鑫明，共同发起以“大模型与生物医学”为主题的读书会，共学共研相关文献，探讨基础模型在生物医学等科学领域的应用、影响和展望。读书会从2023年8月20日开始，每周日早上 9:00-11:00 线上举行，持续时间预计8周。欢迎对探索这个激动人心的前沿领域有兴趣的朋友报名参与。





简介




张少霆将深入探讨医疗领域的基础模型。他将从语言模型的背景知识入手，逐步介绍视觉模型和科学大模型，然后详细切入医疗领域相关的大模型进展。他还将分享大模型的优势和挑战，并介绍他们团队在这个领域的最新工作。张少霆将向大家展示全球首个医疗多模态基础模型群 “OpenMEDLab浦医”，并讨论相关的医学视觉大模型和语言大模型。最后，他将讨论医疗基础模型的未来发展方向。

张晓凡将分享有关医学基础模型的研究与应用。分享会将从大模型的基础核心、数据集的构建开始讲述，并逐步探讨医疗领域大语言模型训练的挑战与解决方案。最后，他们将讨论相关的应用落地情况。





大纲




  1. 大模型背景介绍

  2. 医疗场景下的大模型：

    1. 语言、医学图像、蛋白质序列

  3. 大模型的优势、挑战和未来研究方向

  4. 医疗语言模型的数据构建和模型训练方法

  5. 提示工程、模型评测、工具调用

  6. 模型量化和部署的关键技术

  7. 医疗语言模型的实际应用场景




主讲人介绍




张少霆现任上海交通大学电院清源研究院副院长，商汤科技副总裁，先后于浙江大学、上海交通大学、美国新泽西州立大学获得学士、硕士及博士学位，曾在美国北卡罗来纳大学夏洛特分校计算机系任教至终身副教授。曾获得美国橡树岭大学联合会青年教授奖、MICCAI青年科学家奖等，发表多篇封面论文及高引论文，专注于医疗人工智能领域创新近20年，近年来围绕医疗基础模型及小样本弱标注临床任务展开深度研究，并将医学通用基模型转化为20余款数字人创新AI应用以及AI药物研发方案，全面赋能多个临床科室及国际知名药企。


张晓凡现任上海交通大学电院清源研究院长聘教轨副教授，博士生导师。北京航空航天大学学士，美国北卡罗莱纳大学夏洛特分校博士学位。曾任京东硅谷研究院计算机视觉研究员、商汤科技北美智慧医疗实验室高级研究员。2021年6月加入上海交通大学清源研究院。研究领域：医学图像、文本分析，多模态决策。在国际顶级期刊及会议中发表论文十余篇，一作论文九篇。Google Scholar近五年引用千余次，H-index 11。申报美国专利3项。





参与方式




活动时间

2023年8月20日（本周日）上午 9 :00-11:00


活动地点

龙文路199号，国际传媒港L1栋-15楼大会议室



线下参与方式

如果您希望线下参与，请扫下方二维码登记注册，报名后可添加小助手微信，进入交流群（备注：生物医学大模型）。


线上会议室

扫码参与大模型与生物医学读书会，加入群聊，获取系列读书会回看权限，成为大模型与生物科学读书会的种子用户，与社区的一线科研工作者与企业实践者沟通交流，共同推动AI+Science社区的发展。





参考文献列表




[1]Tim Dettmers, Mike Lewis, Younes Belkada, et al. LLM.int8(): 8-bit Matrix Multiplication for Transformers at Scale. arXiv:2208.07339, 2022

[2]Elias Frantar, Saleh Ashkboos, Torsten Hoefler, et al. GPTQ: Accurate Post-Training Quantization for Generative Pre-trained

[3]Ji Lin, Jiaming Tang, Haotian Tang, et al. AWQ: Activation-aware Weight Quantization for LLM Compression and Acceleration. arXiv:2306.00978, 2023

[4]Shaoting Zhang, Dimitris Metaxas. On the Challenges and Perspectives of Foundation Models for Medical Image Analysis. arXiv:2306.05705, 2023




相关资源列表




[1] https://github.com/InternLM/lmdeploy
[2] https://github.com/openmedlab



大模型与生物医学：

AI + Science第二季读书会启动


生物医学是一个复杂且富有挑战性的领域，涉及到大量的数据处理、模式识别、理论模型建构和实验验证等问题。AI基础模型的引入，使得我们能够从前所未有的角度去观察和理解这个领域的问题，加速科学研究的步伐，提高医疗服务的效率和效果。这种交叉领域的合作，标志着我们正在向科技与生物医学深度融合的新时代迈进，对于推动科学研究、优化医疗服务、促进人类健康有着深远的影响。

集智俱乐部联合西湖大学助理教授吴泰霖、斯坦福大学计算机科学系博士后研究员王瀚宸、博士研究生黄柯鑫、黄倩，华盛顿大学博士研究生屠鑫明，共同发起以“大模型与生物医学”为主题的读书会，共学共研相关文献，探讨基础模型在生物医学等科学领域的应用、影响和展望。读书会从2023年8月20日开始，每周日早上 9:00-11:00 线上举行，持续时间预计8周。欢迎对探索这个激动人心的前沿领域有兴趣的朋友报名参与。


详情请见：

大模型与生物医学：AI + Science第二季读书会启动



AI+Science 读书会


AI+Science 是近年兴起的将人工智能和科学相结合的一种趋势。一方面是 AI for Science，机器学习和其他 AI 技术可以用来解决科学研究中的问题，从预测天气和蛋白质结构，到模拟星系碰撞、设计优化核聚变反应堆，甚至像科学家一样进行科学发现，被称为科学发现的“第五范式”。另一方面是 Science for AI，科学尤其是物理学中的规律和思想启发机器学习理论，为人工智能的发展提供全新的视角和方法。
集智俱乐部联合斯坦福大学计算机科学系博士后研究员吴泰霖（Jure Leskovec 教授指导）、哈佛量子计划研究员扈鸿业、麻省理工学院物理系博士生刘子鸣（Max Tegmark 教授指导），共同发起以“AI+Science”为主题的读书会，探讨该领域的重要问题，共学共研相关文献。欢迎对探索这个激动人心的前沿领域有兴趣的朋友报名参与。
详情请见：
人工智能和科学发现相互赋能的新范式：AI+Science 读书会启动



点击“阅读原文”，报名读书会