?
导读:美国制药公司 Collaborations Pharmaceuticals 在探索中发现 AI(人工智能)制药技术具有双重性。如果“反用”(flip)机器学习模型,盛天网投网站:原本用来生成治疗药物的 AI 模型就会生成有毒的物质。
据英国金融时报 3 月 19 日报道,美国制药公司 Collaborations Pharmaceuticals 在探索中发现 AI(人工智能)制药技术具有双重性。如果“反用”(flip)机器学习模型,原本用来生成治疗药物的 AI 模型就会生成有毒的物质。
在 Collaborations Pharmaceuticals 公司团队反向使用机器模型后,新模型在6 小时内就产生 40000 杀手分子(potential killer molecules),而且 AI 生成的化合物毒性比已知生化武器的毒性都高。如果有人利用这项技术制造致命生化武器,后果将不堪设想。
一、AI 模型 6 小时内可生成 40000 个潜在杀手分子
AI 制药的规则很简单:有疗效的活动被算法奖励,有毒的则被惩罚,这样就可以得到有效的药物。但是如果改变这一规则,奖励有毒行为,即“反用”AI,会得到什么呢?
Collaborations Pharmaceutical 公司位于美国北卡罗来纳州,主要通过机器学习确定罕见病及易忽视病的药物。该公司通过反向使用机器学习模型,来探究AI 生成分子算法的负面作用。
▲论文链接
从事计算机和化学方面的技术人员,其知识和技术水平远超爱好者等业余人士。若这些专业技术人员有恶意,那他们所做的事危害会更大。在 AI 制药过程中,AI 生成的分子仅是虚拟的药物配方,其制造通常需要外包给其他提供商业合成的公司,而这些公司受到的监管和监督都要更少。
目前,Collaborations Pharmaceutical 已经删除了相关实验数据,并计划限制反向 AI 制药技术的使用。化学领域的《海牙伦理准则》(The Hague Ethical Guidelines),提倡化学科学中的负责任行为。Lentzos 建议为从事以 AI 为重点的药物研发人员,制定类似《海牙伦理准则》的行为准则。
结语:AI 制药技术或有副作用
近年来,AI 在生物医学领域的应用发展飞速,AI 制药更是引起了国内外的资本热潮。随着图像识别、深度学习、神经网络等关键技术的突破,AI 在生物医药领域从科研到应用都取得了巨大进展。
在技术飞速发展的同时,可能的安全隐患并未得到解决。本次,Collaborations Pharmaceutical 公司的研究,体现了 AI 制药应用过程的双重性。这也说明了利用 AI 制药技术快速发展的同时要意识到其潜在的危机。
竞彩猫免费推荐 | 金博士会员开户 | 钱柜娱乐游戏导航 | 外围赌牌评级 | 88必发注册最高返水 |
7070彩票暗在wx22com | 申博太阳城会员注册 | 上葡京网大全 | 太阳城代理导航 | 博发彩票下载 |
皇冠国际官方直营 | 顶级娱乐亚洲金莎 | 澳门新黄金城现金官网 | 诚博会员 | 竞彩彩票是正规的吗 |
必赢LMG视讯 | 亿豪全新电子升级模式 | 太阳城百家乐登入 | 申博会员直营网 | 申博代理有限公司 |