欢迎访问中国治理网!微信公众号:治理中国

社交机器人治理:从平台自治到全球共治

时间:2020-10-26 14:17:44编辑:wen


  社交机器人给当下的传播生态带来了颠覆性变化。社交机器人拥有不同程度的人格属性,既能批量生产内容,也能自动化建构社交网络,执行特定内容扩散,甚至还有一定的情绪表达。

  社交机器人带来的相关问题已经引起了各国政府的高度重视。对其失范现象进行研究,挖掘背后的原因,进而探讨治理之策,有着重要的现实意义。

  重塑互联网生态

  社交机器人是人工智能发展到一定阶段的产物,它的本质是在线社交媒体中的计算机算法。具体指在社交网络中模拟人类用户,自主运行,自动生产发布内容的算法智能体。社交机器人虽然被称为“机器人”,但是和过去概念中的机器人大为不同,它抛弃了传统智能机器人笨重的“身体”,以虚拟形象徜徉在社交网络中。相较于传统机器人,它更为智能,能模仿真人用户在网络中的行为模式,与真人社交,还可以进行对话、关注、点赞、评论、转发等操作。

  随着机器学习的进步,更为复杂、更具迷惑性的社交机器人被创建并应用于网络空间。社交机器人逐渐从人机交互中的传播中介进化为传播主体,并拥有了进行“情感劳动”的能力。社交机器人作为独立主体参与在线社交,被人类作为真实的交往对象,进而对人的社交关系产生直接作用,包括获取网络社交信息、影响用户社交选择、促进人类线上和离线互动等。社交机器人与人类正在发展成一种新的社会关系,呈现出“人机共生”的新生态。

  机器人社交中的价值失范

  在社交网络中,社交机器人作为独立主体与真人交流互动,形成机器人社交。在此过程中,不法分子利用社交机器人渗透到社交网络平台,与大量合法用户建立联系,以实现不可告人的目的,例如窃取用户隐私、传播虚假信息、煽动民众情绪等。

  侵犯用户隐私。对用户隐私的侵犯,一直是网络空间的一个研究热点和争议话题。在大数据时代,除直接通过用户采集之外,另一大数据来源就是使用网络爬虫采集公开信息。然而,对网络用户公开信息的抓取并非社交机器人窃取隐私的主要方式。其主要依靠渗透在线社交网络的方式窃取平台用户的隐私,即伪装成人类用户,与其他合法用户建立好友关系,进而在与其互动的过程中获取更多个人信息。这种基于互动行为窃取隐私信息的做法更为精准,也更具隐蔽性。一些个人数据会被社交机器人背后的控制者利用原账户的社交关系发送电子邮件,进行网络钓鱼,骗取更多人的隐私。或是转手卖出,获取经济上的好处,甚至达到其他不可告人的目的。

  传播虚假信息。研究表明,在虚假信息的早期传播阶段,社交机器人尤其活跃,并且有意识地向有影响力的“大V”传播,试图通过他们扩大假新闻的影响范围。而处于信息不对称端的用户很容易受到蒙蔽,转发虚假消息,造成影响扩大。此外,一些个人或组织故意通过社交机器人在互联网上造谣传谣,打击对手,坐收利益。

  煽动民众情绪。不少学者还注意到了社交机器人在政治活动中的作用,并催生了“政治机器人”(Political Bot)这一专有名词。政治机器人通过与其他社交媒体平台用户建立社交关系,传播幕后运营者的政治主张,影响舆论,混淆视听。研究发现,社交机器人用于政治动员、政治干扰所带来的种种后果,已经威胁到国家的民主和法制秩序。

  构建社交机器人治理共同体

  当今时代,网络综合治理已成为国家和社会治理面临的一个重大课题。对社交机器人的治理必须发挥政府的主导作用,明确互联网平台的主体责任,对机器人伦理问题进行监测、预防和评估。将社交机器人的立法提上日程,借助法律强制约束力对社交机器人行为作出规范。同时,要倡导全球各个政府、公民、公共机构共同合作的全球治理模式。提升世界网络空间安全,推动社交机器人造福全球。

  明确平台主体责任。当前,大部分互联网平台未能把对社交机器人的管理规范置于关键位置,所谓的平台政策更多体现了对商业利益的追逐。已有的政策规范没有得到强制执行,平台对恶意社交机器人的管控多依赖用户的反馈举报,事后对“可疑账户”进行一刀切式的关停,缺乏对“度”的把握。为了促进社交机器人的健康发展,发挥其良性作用,平台需要制定针对社交机器人活动的规范框架,对监管对象、行为标准、权利义务等各方面做出明确的规定。第一,要对社交机器人进行准确透明的定义。网络世界中类似社交机器人这样的自动算法程序有许多,包括网络爬虫、垃圾邮件机器人、马甲等,未来还可能有更先进的智能体。因此,要避免以模糊的方式定义对象,确保规范的精准执行。第二,明确了监管对象的定义后,平台还需要制定一套标准来区分社交机器人正面行为和负面行为,对恶意社交机器人进行关停处置,对良性的则保障其正常活动。第三,平台还需对社交机器人实施负面清单管理,公开平台明确禁止的不良行为,给予社交机器人一定的自由度,保障良性自动程序能正常运行,发挥其正面作用。最后,对遭到举报的社交机器人账户,在进行裁决时应要求举证,保证程序正当,同时给社交机器人申诉的权利,避免一刀切式的武断处理。

  制定规则和法律。社交机器人的发展离不开人工智能技术的进步。自2016年人工智能高速发展以来,各国政府都开始密切关注人工智能发展带来的伦理问题,纷纷发布文件试图从法律和道德层面引导人工智能发展。我国一直把发展人工智能作为重要战略,计划到2030年,将我国建设成“世界首屈一指的人工智能创新中心”。为了规范社交机器人的应用,我们应该立足国情,兼顾机器人的复杂性,聚焦于用技术造福人民,在“国家总体安全观”“人工智能道德框架”及“网络信息内容生态治理规定”等指引下,制定社交机器人行为准则及规章制度,将社交机器人纳入法律管辖范围,并对平台的责权予以明确规定,以保障这一新兴事物的良性发展,为中国和世界未来发展持续贡献中国力量。

  探索互信共治之路。社交机器人在全球范围内引发的问题各不相同,已远远超出了单一国家或者单一治理主体的能力范围。因此,对这一新问题的治理需要各国承担相应的责任,共同构建共治合作关系,承担共同的责任。各方需要制定统一的判定标准,构建共商、共建、共享的全球治理体系,对社交机器人的行为规范、惩治措施等进行明确,以此展开全球共治。在此前提下,首先,在联合国框架下开展对社交机器人的全球性监测,建立国际沟通交流渠道,推动彼此在网络空间优势互补、共同发展,使各国共同分享社交机器人的治理技术和经验。其次,可成立由网络技术专家、民营企业、专业机构等组成的跨国专家组,对社交机器人活动的影响进行评估,就如何规制治理从各角度提出专业性的建议。最后,促进社交机器人相关行业、民间组织间的跨国交流,成立行业协会。如互联网企业可以运用大数据技术,检测识别机器人账户、监测社交机器人的网络活动、筛查社交机器人发布的信息内容、观察社交机器人对网络舆论造成的影响等。科技公司可制定行业规范,防止社交机器人被用于干扰网络社会秩序、威胁网络安全的活动等。
点击: