揭秘OpenAI“红军”:聘请专家攻击ChatGPT解决技术伦理问题

据报道,在安德鲁·怀特(Andrew White)取得GPT-4的运用权之后,他运用这一人工智能体系提出了一种全新的神经毒剂。GPT-4是抢手谈天机器人ChatGPT背面的人工智能技术。

作为罗切斯特大学的化学工程教授,怀特是OpenAI上一年延聘的50名专家学者之一。在6个月的时间里,这支“赤军”对这一新模型进行了“定性探究和对抗性测验”,企图进犯它。

怀特表明,他运用GPT-4的主张生成了一种可作为化学武器的化合物,并运用“插件”为这个模型供给新的信息源,例如学术论文和化学品制作商名录。随后,这个谈天机器人找到了一个当地来制作这种化合物。

他说:“我以为,这将使每个人都取得更快速、更精确地东西去从事化工行业。但这也使得人们会以更危险的方法去展开化学活动,带来了很大的危险。”

来历:

新浪科技

返回资讯列表