“对了,有件事我要跟你们说一声,”郑墨阳对两个吃饭的孩子说,“我马上
叶庭看了看两位家长,觉得开始有吵架的趋势,于是插了话:“现在的AI训练大概是3类数据,原始网页数据,专门为AI训练定制的人工数据,和人类反馈。如果只用第一种数据训练,后果是很可怕的,网页里有性别歧视,错误信息,和极端言论,容易造成误导。”
AI像是一个初涉人类社会的婴儿,让它沉浸在恶劣的网络环境中,相当于把一个孩子放到匪徒窝里。
“所以第二和第三种数据是必须的,它们相当于AI的教科书和老师,”叶庭说,“人类需要筛选训练AI的信息,然后作为老师引导它,和它交流。”
冯诺一又叹了口气,看向郑墨阳:“我觉得这些数据都应该透明公开,我怎么知道你们给AI灌输了什么?”
郑墨阳叹了口气,叶庭继续说:“我的想法是,生成一个常识知识图谱和道德规范库,通过符号知识提炼和深度神经网络编写成模型,来训练AI,起到一个刹车装置的作用,避免AI走向极端。”
逐渐上升,文安和他的共同话题越来越少,现在他们只有谈论日常生活的时候,才能顺畅交流。这是正常现象,文安始终生活在小学低年级的环境中。
两位家长就完全没有这个问题。
郑墨阳对叶庭的课题很感兴趣,放下了解扣子的手:“常识模型?”
叶庭点了点头:“AI能赢围棋世界冠军,通过律师资格考试,但在某些常识问题上,它连三岁小孩都不如。如果没有常识,过度发展人工智能会很危险。”
冯诺一在旁边使劲点头:“就是。而且训练大规模的AI模型,成本非常高,只有几家巨头有这个实力。这不就是把训练人工智能的权利集中在了少数人手里吗?我怎么知道这几家科技公司是怎么训练模型的,会拿这些模型来干什么?”
叶庭当然无法做出尽善尽美的模型,他只是个青少年。ISEF注重的是提出问题、解决问题的能力,他只需要在能力限度做出最好的成果。
郑墨阳听后笑了笑,看着冯诺一:“不愧是你带出来的孩子。”
冯诺一得意地摇头晃脑,好像发明模型的是他自己:“等他研究出来了,你们公司的AI必须第一个接受教育。”
“你对我的信任还真是一如既往。”
冯诺一磨了磨牙。
郑墨阳在心中默数两秒,果然等到了冯诺一怀疑的瞪视。
“你现在不就在投资训练AI吗?”他说。
郑墨阳说:“是,这是大势所趋。”
冯诺一叹了口气:“一想起未来科技掌握在你这种人手里,我鸡皮疙瘩都起来了。”
郑墨阳已经习惯了这种指控,他还没做什么,自家猫已经把屎盆子扣在了他头上。