社区编辑申请
注册/登录
恶意技术时代下的负责任技术 原创
安全
技术所产生的无意识伤害有多种形式,可能潜伏在任何技术决策中。作为技术管理者,我们有责任提出正确的问题,并考虑这些技术将如何被每个人使用,以及可能对使用者的生活和经历产生怎样的影响。

作者 | Rebecca Parsons

从数百万美元的勒索软件赔款,到数亿用户私人信息的数据泄露,围绕恶意技术的头条新闻一直很吸引眼球,但它们并不能说明全部问题。

真实情况是,恶意技术远不止蓄意的、有针对性的破坏系统或窃取用户数据。尽管黑客攻击、勒索软件攻击、数据泄露和 DDoS 攻击在这类新闻叙述中占据着主导地位,也的确造成了严重损害,但实际上它们只是沧海一粟。

认识所有形式的恶意技术行为

首先要摆正心态,不要对 "恶意技术 "一词感到过于恐慌。这里谈论的不仅是技术攻击本身,我们需要更广泛地思考这一问题。

恶意技术并不单纯指非法行为,我们甚至不是在谈论那些必然是恶意的事情。例如,有些人完全乐于接受在线监控,因为这可以帮助他们获得更精准、更具个性化的推荐。与此同时也有另外一些人会不遗余力地躲避任何数字监控的追踪,因为这在他们看来是不道德的。

有些技术看似恶意,其出发点却并不如此。例如,图像识别软件的开发者不会刻意让软件在识别到黑人妇女面孔时提供不一致的结果,只是由于软件现阶段有一个糟糕的数据集,才会呈现出看似有偏见的结果,而这些并非开发者的本意。这些都不是恶意的项目,当然也不归属于恶意的品牌。在许多情况下,它们甚至不是设计或规划上的失败,而是团队没有充分考虑到一项技术决定会对所有潜在的利益相关者群体产生怎样不同的影响。

这是一个关键点。在设计之初,软件通常有一个特定的利益相关者群体,设计者试图直接服务或满足这一群体的需求,却常常忽视了该产品对其他利益相关者的影响。比如训练一个自然语言处理模型所产生的二氧化碳排放足迹,与纽约和北京之间往返125次航班相同——很少有人考虑到这种环境上的影响。除此之外还有很多人忽视的公平、公正问题。例如,疫情期间很多教育转入线上,一些家庭没有良好的网络情况,根本无法同时支撑几个孩子共同参与线上课程,更不用说父母也要同时在家办公。许多人看到的是数字教育的精彩革命,但他们没有看到那些因数字不平等而被落下的人。

为什么现在是拥抱道德技术的正确时机?

疫情所暴露的数字不平等和正在发生的气候危机只是原因之二。现如今,技术几乎深深扎根于我们生活的各个方面——医疗决定、信贷决定、缓刑或判刑决定,所有这些对个人生活有巨大影响的事情,都受到技术选择的巨大影响。这其中的利害关系是非常真实的,而技术决策者在做这些决定时却很少做到全面考虑。这就是为什么对各种组织来说,树立负责任的技术思维是如此重要。

负责任技术的定义

负责任技术——有时也被称为道德技术或公平技术——是一个总括性的术语,包含了多种概念,总之就是用技术做正确的事情——这可能意味着任何事情,从采取措施使更容易获得一个应用程序,到实施政策以帮助持续提供公平的技术体验。

从字面上看,这是一个相对简单的概念,但仍然被误解所笼罩。我最近读到一些信息,说“责任”在土木工程等领域很容易定义,你的责任是确保建筑物稳定,不倒塌,不对相关居民的生活产生负面影响。其隐藏的含义是,在软件或技术领域,这一点很难定义。

是的,我们并不像医疗行业那样受到任何形式的“希波克拉底誓言”的约束。但是,当涉及到用技术做出道德以及负责任的决定时,我们常常给自己留了过多的余地。

我们可以采取哪些措施来变得更加负责?

为了减少技术所附带的无意伤害并做出负责任的决定,今天的企业需要着重关注的是,识别可能受到特定技术决定影响的潜在利益相关者。这意味着需要关注:

  • 受测群体——他们是否真正代表了预期中将使用该产品的终端用户群体?这个过程是否涵盖了所有利益相关群体,他们是否有发声渠道?
  • 服务所需数据集的质量和准确性——是否没有偏见,是否能够提供真实、全面的反馈和包容性体验?
  • 设计中是否考虑到了平等和易用性——以及复杂的特征或功能是否以整体可用性和可及性为代价?
  • 这一决策是否会对人类社会产生更广义的负面影响?例如,它是否与我们的可持续发展目标相一致,是否有可能破坏环境?

我希望鼓励组织做的另一件事是,明确声明组织关心什么,以及希望所采用的技术能帮助实现什么。正如《数学毁灭武器》的作者Cathy O'Neil所说,有些时候,你必须在公平和利润之间进行交易。

这取决于你想在这个光谱上处于什么位置,但重要的是要明确目标和意图。我曾与一个组织合作,该组织制定了一个框架,表达了他们在使用客户数据方面的价值观和原则,清楚地阐述了他们打算如何操作这些数据,以及为什么会做出这个决定。这花了几个月的时间,但这使他们的意图和道德立场十分清晰,并且容易保持一致。

减轻技术的无意识伤害

技术所产生的无意识伤害有多种形式,可能潜伏在任何技术决策中。作为技术管理者,我们有责任提出正确的问题,并考虑这些技术将如何被每个人使用,以及可能对使用者的生活和经历产生怎样的影响。

转向这种负责任的方法和心态在理论上相对简单,但在看到有意义的结果之前,整个行业的组织和专业人士需要作出真正的奉献。正如我们有责任保护客户数据免受恶意威胁一样,我们也有道德责任尽我们所能减少技术所产生的负面影响,并为所有人建立一个平等、可访问的数字世界。

责任编辑:赵宁宁 来源: Thoughtworks洞见
相关推荐

2022-06-07 10:09:42

新技术人工智能5G

2022-06-16 17:02:49

微软智能云混合云Azure

2022-05-31 10:30:16

元宇宙数字人高清渲染

2022-06-15 08:25:07

Python天气数据可视化分析

2022-06-07 11:16:51

云原生人工智能运维

2022-06-23 09:49:16

火绒安全英特尔

2022-06-09 18:04:46

网络攻击网络安全

2022-06-09 10:12:01

网络安全人工智能威胁监测

2022-06-23 14:03:26

混合ITCIOIT管理工具

2022-05-27 15:06:22

攻击面管理(ASM)网络安全运营

2022-06-15 11:02:40

网络安全运营

2022-06-20 12:07:32

SAP双碳碳足迹

2022-06-07 09:59:21

网络安全安全漏洞

2022-06-09 09:27:16

前端行业生存

2022-06-22 05:53:49

城域网广域网VXLAN

2022-06-24 14:07:06

机器人供应链人工智能

2022-06-24 11:34:38

云计算应用安全

2022-06-16 09:22:28

图数据库图数据数据库

2022-06-02 15:28:42

网络安全信息通信数据保护

2022-06-16 15:42:16

攻击面管理ASM

同话题下的热门内容

无线网络安全的12个优秀实践如何避免严重网络安全事故的发生?Google发布《SOC建设指南》,对未来SOC提出新思考六个优秀漏洞管理工具以及它们如何帮助确定威胁的优先级如何做好统一身份认证账号管理及集成?摒弃传统的用户名和密码登录防不胜防?网络钓鱼攻击常用手法盘点与防护建议首席信息安全官仍然会犯的漏洞管理错误

编辑推荐

付费成人网站OnlyFans数百名创作者内容泄露,可能有你关注的YouTube博主2019年最近发现的网络安全事件权威解读 | 网络安全等级保护2.0标准体系以及主要标准2019年网络安全事件回顾(国际篇)2019年网络安全事件回顾(国内篇)
我收藏的内容
点赞
收藏

51CTO技术栈公众号