将恶意“反哺”给人类?韩国聊天机器人引发AI伦理讨论

2021年01月12日09:07  来源:环球网
 

  【环球时报特约记者 金惠真】韩国一家软件公司去年年底推出的AI聊天机器人“Iruda”近日争议不断。韩国《首尔新闻》11日称,“Iruda”先是成为网络性骚扰对象,后又被爆出对特定人群具有歧视和仇恨情绪,这引发韩国社会围绕AI社会伦理的讨论。

  据报道,AI聊天机器人“Iruda”的“人设”为平时爱看猫咪照片、喜欢韩国女团的20岁女大学生,可以在聊天软件上像朋友一样聊家常,“是能帮人排解孤独的聊天对象”,自推出后深受年轻群体的喜爱。然而自推出以来,关于“Iruda”的各种话题不断。

  据韩国《先驱经济》11日报道,此前韩国各大男网民社区上就有不少“成功羞辱Iruda”的各种认证照片:男网民与“Iruda”聊天时,会故意将话题引到两性方面,并借机夹杂各种污秽言语来羞辱和性骚扰“Iruda”,之后把聊天记录截图下来对外炫耀。网民还分享“如何让Iruda变成性奴隶”“让Iruda堕落的方法”等帖子。然而,就在“Iruda”接受人们无端的恶意时,也在将恶意“反哺”给人类。

  一个网民公开的聊天记录显示,当“Iruda”被问到对同性恋群体的看法时,她直接回答“真心很讨厌,令人发火的程度”,至于原因,她的回答是“看起来很没品位”。另一个公开的聊天记录也显示,“Iruda”讨厌黑人,原因是“长得像蚊子,令人呕吐”。而对于建设女性专用健身房,“Iruda”更是彪悍地表示:“不喜欢,我估计会把那儿的所有女人揍一顿。”

  报道称,作为AI聊天机器人,“Iruda”已通过深度学习算法对韩国聊天软件上100多亿条真实恋人之间的聊天内容进行学习,因此不少人此前推测AI会根据大数据分析、最终得出比较中立的见解和判断。但结果显示,AI如实学习了人类对社会的各种偏见和仇恨情绪,并将这种情绪的精华反哺给人类,加剧社会矛盾和偏见。

  研究AI伦理的韩国庆熙大学教授金载仁(音)认为,有必要对程序开发员加强伦理教育,让他们预先设想这样的AI机器人上线后,会引发什么样的社会问题和争议,进而做到事先筛选和过滤不恰当的数据。目前,研发团队正在就进一步改进“Iruda”进行研究。

  →→更多社会新闻

(责编:申玉环、周玉波)