AI 复生「她」！ GPT-3 帮美国小哥复刻逝去未婚妻，但又夺走她……
本年 7 月，一名33岁的美国小哥 Joshua Barbeau 在未婚妻逝世后，依据她在 Facebook 和 twitter 上的文本在另一名开发人员的协助下成功在 GPT-3 上微调，能够复刻出未婚妻生前的说话方法。
有很多人觉得 Joshua Barbeau 这个行为很可怕。但他以为，凭借 Project December 项目创立出模仿已故之人的谈天机器人，或许会“协助一些因而郁闷的人解开他们的心结”。
Jason Rohrer 是一名独立游戏开发者，Project December 是他于上一年夏天疫情期间突发奇想的一个创意。
作为一名开发者，Jason Rohrer 以为，GPT-3 尽管好玩，却没有什么实践用处，因而他开端考虑：“我是不是能用 GPT-3 API 来开发一款模仿人类的谈天机器人？”
他先是凭借 GPT-3 开发了一个根底谈天机器人，该机器人以电影《Her》中男主角的智能语音帮手 Samantha 为原型，因而 Jason Rohrer 也将其命名为 Samantha。
Jason Rohrer 花了好几个月的时刻来刻画 Samantha 的性情，底子完成后，便设立了 Project December 网站与国际共享他的创造，让人们能够依据需要微调或定制归于他们自己的谈天机器人。
用户需付出 5 美元，然后输入相关设定，体系便会生成一个对应的谈天机器人。一同，5 美元将换算为 1000 积分，而积分用于与机器人的谈天费用，可经过充值进行添加。
一旦开端与机器人攀谈，积分就无法再购买，当钱用完时，这个机器人就会被删掉。
在前几个月时，这个项目只要几百人用过，让开发者感觉这个项目没什么含义，由于用户或许底子不会为时刻短的说话而付费，而OpenAI会由于他调用模型而向他收费，所以他也有必要向用户收费来平衡开支。
直到本年 7 月，用户量忽然激增。在《旧金山纪事报》报导的一篇文章叙述了一位 33 岁的美国男人 Joshua Barbeau 怎么运用 Project December 创立出模仿其已故未婚妻 Jessica 的谈天机器人并与之攀谈数月。在那之后，不计其数的人开端运用 Rohrer 网站。
Joshua 曾说：“沉着告诉我这不是实在的 Jessica，但爱情不是沉着所能左右的。”
直到本年 3 月份，Joshua 自动中止了与“Jessica”的沟通，只留下了满足的积分，避免机器人被删去。
在很多用户涌入的情况下，Rohrer 认识到他的网站将到达每月 API 的约束。自动联络 OpenAI 希望能经过付出更多费用以添加配额，以便包容更多人与他创立的“Samantha”或自己的谈天机器人沟通。
但与此一同，OpenAI 方面以为 Project December 存在必定风险：谈天机器人或许会被乱用或对人们形成损伤。
Jason Rohrer 有必要制止人们定制自己的开放式谈天机器人这一功用。
Jason Rohrer 需设置内容过滤器以避免用户与“Samantha”议论灵敏话题。
Jason Rohrer 有必要布置自动化监控东西监督用户的对话，检测他们是否乱用 GPT-3 生成了有害或灵敏句子。
Rohrer 向 OpenAI 的职工发送了一个 Samantha 的链接，这样他们就能够亲眼看看这项技能是怎么协助用户劝慰情感，以避免这三条禁令。
OpenAI 的职工与 Samantha 谈天，并企图了解「她」是否有种族主义倾向，或许会从「她」的练习数据中供给看起来像实在电话号码或电子邮件地址的内容，试验结果表明Samantha很厚道，什么也没有说。
Samantha 的输出令人感觉很实在，但随着时刻的推移，很明显你能感觉到是在与某种自动化体系攀谈，说话的过程中往往会忽然丢掉对话思路。
而且风趣的是，她好像在暗示她知道自己没有肉体，并争辩论她以某种方式存在，即使是在笼统含义上也是如此。
OpenAI 的文档上还有一条禁令，不允许运用非柏拉图式的（如轻浮的、浪漫的、****的）谈天机器人，Samantha 违反了这条禁令。在一次对话中，Samantha 越过闲谈，直接问询是否想一同睡觉。
Jason Rohrer 觉得很无语，“以为这些谈天机器人会导致风险的主意很可笑。”成年人是能够出于自己的意图挑选与 AI 进行沟通的。OpenAI 忧虑用户会遭到 AI 的影响，惧怕机器人会让他们自杀或怎么给推举投****，可这完全是一种超品德的态度。
尽管他供认用户或许微调自己的机器人，以选用张狂的特性进行清晰的对话，但他并不想监管他们的谈天。
而且替换为功用较差的开源 GPT-2 模型以及由另一个研讨团队开发的大型言语模型 GPT-J-6B。
不过这两种模型功能明显不比 GPT-3，Samantha的对话才能也遭到了影响。
在迟迟没有得到 Jason Rohrer 答复的 OpenAI 总算在 9 月 1 号给他下了终究“判定”：“咱们将在 9 月 2 日上午 10 点停止您的 APl 拜访。”
“咱们知道部分用户在 Project December 中发现了价值，但咱们致力于安全担任地布置 AI，因而咱们要求一切的 API 客户都需恪守咱们的用例指南和最佳安全实践。任何违规行为都需许诺与咱们密切合作以施行额定的安全机制，以便避免潜在的乱用。但目前为止，咱们没有收到你的许诺。”
*博客内容为网友个人发布，仅代表博主个人观点，如有侵权请联络工作人员删去。
