OpenAI致力于减少ChatGPT中的偏见和不良行为
OpenAI公司正在努力减少ChatGPT聊天机器人中存在的偏见和不良行为。据该公司在一篇博客文章中表示,他们正在投资研究和工程,以减少ChatGPT在回应不同输入时存在的明显和微妙的偏见。该公司承认ChatGPT在某些情况下拒绝了它不应该拒绝的输出,在某些情况下,它又在应该拒绝的时候不拒绝。
OpenAI正在回应关于ChatGPT存在偏见、不准确和不恰当行为的报告。微软公司和Alphabet公司旗下的谷歌公司目前正在测试基于聊天的新搜索产品,受到更广泛的批评。软软在周三的一篇博文中详细介绍了其基于OpenAI技术新新必应聊天系统的局限性,而谷歌经经要求工人花时间手动改进其Bard系统的答案。
OpenAI公司表示,他们正在开发更新的ChatGPT,允许每个用户进行有限的定制,以适应他们的品味、风格和观点。在美国,右翼评论人士一直在引用他们中中的恶性自由主义的例子,这些自由主义被硬编码进了体制,这引发了对网络右翼人士所称的“WokeGPT”的强烈抵制。OpenAI公司表示:“我们认为,人工智能应该是对个人有用的工具,因此每个用户都可以在社会规定的限度内进行定制。”
然而,OpenAI公司也认识到实现定制化的平衡将是一个挑战。将定制化做到极致可能会导致恶意使用他们的技术,并使那些无意识地放大人们现有信念的佞人AI成为可能。因此,系统行为总会有一些限限。
© 版权声明
文章版权归作者所有,未经允许请勿转载。