克服人工智能发展障碍的关键

更可靠的数据

介绍

1939 年,当《绿野仙踪》中的铁皮人登上银幕时,人工智能开始吸引人们的想象力,此后它才在时代精神中站稳了脚跟。 然而,在应用中,人工智能产品经历了规律的繁荣与萧条周期,迄今为止阻碍了最具影响力的采用。

在繁荣时期,工程师和研究人员取得了巨大的进步,但当他们的愿望不可避免地超过当时可用的计算能力时,就会进入休眠期。 幸运的是,摩尔定律在 1965 年预言的计算能力的指数级增长在很大程度上被证明是准确的,这种增长的重要性再怎么强调也不为过。

人工智能发展障碍
阅读电子书:克服人工智能发展障碍的关键,或 下载 PDF 版本的电子书。

克服人工智能发展障碍的关键:更可靠的数据

今天,普通人现在口袋里的计算能力是美国宇航局 1969 年登月时的数百万倍。 同样无处不在的设备,方便地展示了丰富的计算能力,也满足了人工智能黄金时代的另一个先决条件:大量数据。 根据信息过载研究小组的见解,世界上 90% 的数据是在过去两年中创建的。 现在,计算能力的指数级增长最终与数据生成的同样快速增长相融合,人工智能数据创新正在爆炸式增长,以至于一些专家认为将启动第四次工业革命。

来自美国国家风险投资协会的数据显示,人工智能领域在 6.9 年第一季度的投资达到创纪录的 2020 亿美元。人工智能工具的潜力不难看出,因为它已经在我们身边被挖掘。 AI 产品的一些更明显的用例是我们最喜欢的应用程序(如 Spotify 和 Netflix)背后的推荐引擎。 虽然发现一个新的艺术家来听或一个新的电视节目来狂欢很有趣,但这些实现的风险相当低。 其他算法对考试成绩进行评分——部分确定学生被大学录取的位置——还有一些算法筛选候选人简历,决定哪些申请人获得特定工作。 一些人工智能工具甚至可以产生生死攸关的影响,例如筛查乳腺癌的人工智能模型(其表现优于医生)。

尽管 AI 开发的真实案例和竞争创建下一代转型工具的初创公司数量稳步增长,但有效开发和实施的挑战仍然存在。 特别是,AI 输出仅在输入允许的范围内准确,这意味着质量至关重要。

人工智能发展障碍

AI 解决方案中数据质量不一致的挑战

据《今日社交媒体》报道,每天确实产生了惊人的数据量:2.5 千亿字节。 但这并不意味着这一切都值得训练你的算法。 有些数据是不完整的,有些是低质量的,有些是完全不准确的,所以使用这些错误信息中的任何一个都会导致你的(昂贵的)人工智能数据创新具有相同的特征。 根据 Gartner 的研究,到 85 年创建的 AI 项目中,约有 2022% 会因为有偏见或不准确的数据而产生不准确的结果。 虽然您可以轻松跳过不适合您口味的歌曲推荐,但其他不准确的算法会带来巨大的财务和声誉成本。

2018 年,亚马逊开始使用人工智能驱动的招聘工具,该工具自 2014 年开始投入生产,该工具对女性有着强烈且明确无误的偏见。 事实证明,支持该工具的计算机模型是使用十多年来提交给公司的简历进行训练的。 因为大多数技术申请者是男性(现在仍然是,也许是因为这项技术),算法决定惩罚包含“女性”的简历,例如女子足球队长或女子商业团体。 它甚至决定惩罚两所女子学院的申请者。 亚马逊声称该工具从未被用作评估潜在候选人的唯一标准,但招聘人员在寻找新员工时会查看推荐引擎。

亚马逊的招聘工具经过多年的工作最终被废弃,但教训仍然存在,凸显了训练算法和人工智能工具时数据质量的重要性。 “高质量”数据是什么样的? 简而言之,它检查这五个框:

相应

1.相关

要被认为是高质量的,数据必须为决策过程带来一些有价值的东西。 求职者作为州冠军撑杆跳高运动员的身份与他们的工作表现之间是否存在相关性? 这是可能的,但似乎不太可能。 通过剔除不相关的数据,算法可以专注于对实际影响结果的信息进行分类。

准确

2.准确

您使用的数据必须准确地代表您正在测试的想法。 如果没有,那就不值得了。 例如,亚马逊使用 10 年的申请人简历训练其招聘算法,但不清楚该公司是否首先确认了这些简历中提供的信息。 参考资料检查公司 Checkster 的研究表明,78% 的求职者在求职申请中撒谎或会考虑撒谎。 例如,如果算法使用候选人的 GPA 做出推荐决策,最好首先确认这些数字的真实性。 这个过程需要时间和金钱,但它也无疑会提高结果的准确性。

正确组织和注释

3. 正确组织和注释

对于基于简历的招聘模型,注释相对容易。 从某种意义上说,简历是预先注释的,尽管毫无疑问会有例外。 大多数申请人在“经验”标题下列出他们的工作经验,在“技能”下列出相关技能。 然而,在其他情况下,例如癌症筛查,数据会更加多样化。 信息可能以医学影像、体检结果、甚至医生和患者之间关于家族健康史和癌症实例的对话以及其他形式的数据的形式出现。 为了使这些信息有助于准确的检测算法,必须仔细组织和注释,以确保 AI 模型学习根据正确的推理做出准确的预测。

最新

4. 最新

亚马逊试图创建一种工具,通过重现人类在更短的时间内做出的相同招聘决定来节省时间和金钱。 为了使建议尽可能准确,数据需要保持最新。 例如,如果一家公司曾经表现出对有能力修理打字机的候选人的偏爱,那么这些历史性招聘可能不会对当今求职者是否适合任何类型的角色产生太大影响。 因此,删除它们是明智之举。

适当多样化

5.适当多样化

亚马逊工程师选择用绝大多数男性申请人来训练算法。 这个决定是一个严重的错误,而且由于这些是公司当时可用的简历,这一事实同样令人震惊。 亚马逊工程师本可以与具有类似功能的受人尊敬的组织合作 已收到更多女性求职者以弥补不足的可用职位,或者可能有 人为地减少男性的简历数量以匹配女性的数量,并经过培训和 以更准确的总体表示指导算法。 重点是数据 多样性是关键,除非齐心协力消除输入偏差,否则偏差输出将 占上风。

显然,高质量的数据并不是凭空出现的。 相反,它必须在考虑预期结果的情况下仔细策划。 在AI领域,常说“进垃圾,出垃圾”。 这种说法是正确的,但它在某种程度上低估了质量的重要性。 AI 可以处理大量信息并将其转化为任何内容,从选股到招聘建议再到医疗诊断。 这种能力远远超过人类的能力,这也意味着它可以放大结果。 一个有偏见的招聘人员只能忽略这么多女性,但一个有偏见的人工智能招聘人员可能会忽略所有女性。 从这个意义上说,垃圾进不只是意味着垃圾出——这意味着少量的“垃圾”数据可以变成一个完整的垃圾填埋场。

克服人工智能发展障碍

无论在哪个行业,人工智能的开发工作都存在重大障碍,从一个可行的想法到成功的产品的过程充满了困难。 在获取正确数据的挑战和将其匿名化以符合所有相关法规的需求之间,感觉实际上构建和训练算法是容易的部分。

为了让您的组织在设计突破性的新 AI 开发的工作中获得一切必要的优势,您需要考虑与像 Shaip 这样的公司合作。 Chetan Parikh 和 Vatsal Ghiya 创立了 Shaip,旨在帮助公司设计可以改变美国医疗保健的各种解决方案。经过 16 年的经营,我们公司已经发展到拥有 600 多名团队成员,我们已经与数百名客户将引人注目的想法转化为 AI 解决方案。

通过我们的人员、流程和平台为您的组织工作,您可以立即获得以下四个好处,并推动您的项目取得成功:

1. 解放数据科学家的能力


AI 开发过程需要花费大量时间,这是无可避免的,但您始终可以优化团队花费最多时间执行的功能。 您聘请数据科学家是因为他们是高级算法和机器学习模型开发方面的专家,但研究一致表明,这些员工实际上将 80% 的时间用于采购、清理和组织将为项目提供动力的数据。 超过四分之三 (76%) 的数据科学家报告说,这些平凡的数据收集过程也恰好是他们工作中最不喜欢的部分,但对高质量数据的需求只留下了 20% 的时间用于实际开发,这是对于许多数据科学家来说,这是最有趣和最能激发智力的工作。 通过通过第三方供应商(如 Shaip)采购数据,公司可以让其昂贵且才华横溢的数据工程师将他们的工作外包为数据管理员,而将时间花在人工智能解决方案中可以产生最大价值的部分。

2. 取得更好结果的能力

许多 AI 开发领导者决定使用开源或众包数据来减少开支,但从长远来看,这种决定几乎总是导致成本增加。 这些类型的数据很容易获得,但它们无法与精心策划的数据集的质量相匹配。 众包数据尤其充斥着错误、遗漏和不准确之处,虽然这些问题有时可以在开发过程中在工程师的监督下解决,但如果您开始使用更高级别的数据,则不需要额外的迭代。 - 质量数据从一开始。

依赖开源数据是另一种常见的捷径,但也有一些陷阱。 缺乏差异化是最大的问题之一,因为使用开源数据训练的算法比建立在许可数据集上的算法更容易复制。 通过这条路线,您会邀请该领域其他进入者的竞争,他们可以随时降低您的价格并抢占市场份额。 当您依赖 Shaip 时,您将访问由熟练管理的劳动力收集的最高质量的数据,我们可以授予您自定义数据集的独家许可,以防止竞争对手轻松地重新创建您来之不易的知识产权。

3. 接触经验丰富的专业人士

接触经验丰富的专业人士 即使您的内部名册包括熟练的工程师和才华横溢的数据科学家,您的 AI 工具也可以从只有通过经验而来的智慧中受益。 我们的主题专家在他们的领域率先实施了许多 AI,并在此过程中吸取了宝贵的经验教训,他们的唯一目标是帮助您实现自己的目标。

通过领域专家为您识别、组织、分类和标记数据,您知道用于训练算法的信息可以产生最佳结果。 我们还定期进行质量保证,以确保数据符合最高标准,并且不仅在实验室中,而且在现实世界中都能按预期执行。

4. 加速开发时间表

AI 开发不会在一夜之间发生,但当您与 Shaip 合作时,它会发生得更快。 内部数据收集和注释造成了严重的操作瓶颈,阻碍了其余的开发过程。 与 Shaip 合作可让您即时访问我们庞大的即用型数据库,我们的专家将能够利用我们深厚的行业知识和全球网络获取您需要的任何类型的额外输入。 没有采购和注释的负担,您的团队可以立即开始实际开发工作,我们的训练模型可以帮助识别早期不准确之处,以减少实现准确度目标所需的迭代。

如果您不准备外包数据管理的所有方面,Shaip 还提供了一个基于云的平台,可帮助团队更有效地生成、更改和注释不同类型的数据,包括对图像、视频、文本和音频的支持. ShaipCloud 包括各种直观的验证和工作流程工具,例如用于跟踪和监控工作负载的专利解决方案、用于转录复杂和困难的录音的转录工具以及用于确保不妥协质量的质量控制组件。 最重要的是,它是可扩展的,因此它可以随着项目的各种需求的增加而增长。

AI 创新的时代才刚刚开始,我们将在未来几年看到令人难以置信的进步和创新,这些进步和创新有可能重塑整个行业甚至改变整个社会。 在 Shaip,我们希望利用我们的专业知识成为一股变革力量,帮助世界上最具革命性的公司利用人工智能解决方案的力量来实现雄心勃勃的目标。

我们在医疗保健应用程序和对话式 AI 方面拥有丰富的经验,但我们也拥有为几乎任何类型的应用程序训练模型的必要技能。 有关 Shaip 如何帮助您将项目从创意变为实施的更多信息,请查看我们网站上提供的许多资源或立即与我们联系。

加速开发时间表

我们聊聊吧

  • 通过注册,我同意 Shaip 隐私政策服务条款 并同意接受来自 Shaip 的 B2B 营销传播。