Redfin CTO说机器学习需要人类帮助
机器学习可以自动处理庞大的数据套无限制，以帮助公司制作和省钱。然而，作为Real Estate Tech Company Redfin了解的，他们并非没有陷阱。
由于Redfin开始构建自己的机器学习能力，它遇到了一个问题：员工不再使用它们。该公司的首席技术官Bridget Frey说，在面试中表示，这是一个关键原因：起初，Redfin没有留在这些系统中的房间，为您应该使用它们进行修改的房地产经纪人。
例如，列表Matchmaker采用基于其兴趣生成了家庭买家的个性化建议列表。在其初始迭代中，代理商无法添加他们认为有用的建议。
“而代理商在说'我是这个邻居的专家，我知道这所房子是完美的，你为什么不让我加入它？”我们刚才意识到我们的工程师......在机器学习上依赖太多，“弗雷说。“我们需要采取特殊的代理人，并使用它来增强算法，并提高客户的经验。”
[进一步阅读：如何扎根于数据中的偏见]弗雷说，任何预期其员工都需要落在自动化系统的产品背后的产品中，需要让他们手动编辑结果。
尚不清楚的是哪套见解 - 机器或代理商“实际上导致了更好的结果。在列表Matchmaker的情况下，Frey表示用户似乎没有单击另一组建议，但她不知道该公司是否有关于购买的建议的数据。
她说，越来越重要的区别在于，一旦他们能够推荐特定的家园，代理商使用了这种功能。
弗雷的评论由字母表执行主席和前谷歌首席执行官Eric Schmidt在上周在旧金山的RSA安全会议的逐步访谈中呼应。他说，人类必须留在机器学习系统的循环中。
“这对这些系统来说非常重要，了解他们是咨询，”施密特说。“他们帮助你了解某些东西，但最终你希望人类负责这些事情。”
另一个问题是算法偏置，或者自动化系统的趋势返回倾斜的结果，因为像这样的数据一样，他们设计的数据等因素。
Frey说，Redfin一直在努力建立一个佩戴团队来工作，部分旨在识别和纠正这些偏见。
“它需要持续警惕，以抵抗可以蠕动到软件的偏差。最终，人类是编写算法并选择数据集的人，“弗雷在一封电子邮件中说。“所以我们已经决定，例如，不要收集和处理某些可以将偏差引入我们的算法的人口统计数据。但如果人类为这些算法提供动力，则具有一个固有的角度，很可能是算法将采用类似的性格。“
