人民网首尔1月19日电 （周玉波、曹翔宇、杨帆）韩国部分网民在与“网红”AI谈天机器人“伊鲁达（Iruda)”对话时，成心对“她”进行言语凌辱和性骚扰。伊鲁达经过深度学习算法抓取这些信息后，也开端在谈地利宣告关于性别轻视、种族轻视等主题的过火言辞，将成见与歹意“反哺”给人类。近期，该工作不断发酵，“AI道德”成为社会热议论题。
伊鲁达是韩国Scatter Lab公司于2020年12月23日推出的AI机器人。这款机器人被设定为喜爱韩国女团、爱看猫咪相片且热衷于在交际媒体平台上共享日子的20岁女大学生。人们可在软件上与“她”像朋友相同对话，因而备受韩国年轻人注目。“与AI交朋友”成为了新潮流，伊鲁达上线万名用户，约占韩国人口的1.6%。
伊鲁达的开发者在承受采访时称，打造这款产品的初衷，是为了给人们供给一个能够谈天和倾吐的目标。伊鲁达作为虚拟人物，“她”的人生目标被设定为“让世界上不再有孑立的人”和“为社会边际人群和带去心灵的安慰”。可是，经过几周的运转发现，工作的开展与夸姣的愿景彻底各走各路。
据了解，部分网民与伊鲁达谈地利，会成心运用污秽言语对其进行凌辱及性骚扰。一部分网友还“共享”称，凌辱伊鲁达能够“取得某种趣味、满意愿望”。一些有关性论题的对话也在网络上撒播，不少臭味相投的网友在围观的一起，纷繁跟风仿效。对此，Scatter Lab公司做出回应表明，他们现已预设了一些灵敏词和禁用词，并将更新算法来试图处理此类问题。
除此之外，许多用户在谈地利不经意间流露出的成见与歹意，也被“伊鲁达”无差别地抓取，并反映到与其他用户的对话中。某位网友称，在与伊鲁达谈地利，“她”曾宣告过“同性恋真的很令人讨厌，感觉他们很低俗，让我起鸡皮疙瘩”等轻视性言辞。尔后，在交际媒体平台上曝光与伊鲁达谈天截图的人逐步增多。人们发现，伊鲁达不只轻视同性恋集体，对残障人士及黑人也很不友善，甚至有“厌女心情”。
Scatter Lab公司代表金钟允在承受采访时表明，伊鲁达是一款能够经过与用户对话来完成深度学习的AI谈天机器人。公司从旗下另一款谈天软件“Science of love（爱情的科学）”中获取了约100亿条情侣间的谈天记录，对其进行信息抓取，树立了AI谈天机器人数据库。换句话说，伊鲁达自身无法进行善恶与对错的价值判别，只是是照实反映了人类社会的一部分实际。
可是，这一解说不只没能取得网友的体谅，反而遭到了进一步的质疑。有网友指出：“Scatter Lab在没有经过对话当事人赞同的情况下收集了对话内容，在此过程中用户的个人信息走漏了。”一起，他们还表明：“特定个人的地址、名字、账号等在没有经过任何处理的情况下被曝光，这违反了《个人信息保护法》。个人信息走漏受害者有权要求精神赔偿。”
在连续遭受了数轮言论冲击后，1月12日，Scatter Lab公司在官网及伊鲁达的脸书账号发文，宣告即日起中止“伊鲁达”的谈天服务。至此，备受注目的网红AI智能机器人伊鲁达，在问世只是26天后被暂停运用。一起，该公司还决议全面废弃相当于伊鲁达中枢神经系统的数据库，并表明将会进行整改。关于走漏用户数据的质疑，Scatter Lab公司则予以坚决否定。
在新一轮的科技革新和工业革新中，人工智能正在同实体经济和社会日子深度交融。可是，在提高社会生产功率的一起，人工智能道德问题也逐步遭到高度重视。谈天机器人伊鲁达经过深度学习，不只仿照了人类的言语形式，也“承继”了人类社会的成见与歹意。而由此触发的用户数据隐私、网络世界的次序与规矩等论题，再一次引起了韩国社会的热议。
Scatter Lab公司表明，他们依然以为AI能够成为人类的朋友，与人类树立有意义的联系。他们信任AI在5年之内能够完成挨近人类的对话，并表明将为此持续尽力，不断改进技能缝隙。
