查看原文
其他

何渊:人工智能时代“大数据”加上“差异化算法”带来的身份歧视,就是商业领域隐匿的穷人与狗不得入内!

2017-11-10 陈琼珂 监管与合规

当电商平台根据政府开放的消费大数据,用算法作了一个精确的推荐系统,当收入较低的顾客浏览此平台时,非常多的打折信息会不断跳出来骚扰,这是典型的消费歧视。

        

来源:上观新闻、伴公汀


“不管愿意不愿意,‘一切被记录,一切被监管’的大数据时代已经来临,政府数据开放带来的伦理问题若隐若现。”

 

在日前举行的上海市法学会行政法学研究会2017年年会暨“特大城市治理中的行政法问题”研讨会上,上海交大副教授何渊建议,政府应充分重视并研究大数据与人工智能伦理与法律问题,及早制定相关规范。


互联网的兴起,为行政法研究开拓了新的领域,数据权利成为了新时代行政法的研究对象。尤其涉及到数据权利的权能定位和边界问题。现有的权能定位存在一定的瑕疵,进而导致数据权利的边界不够清晰。上海交通大学副教授何渊认为,在政府数据开放过程中和再利用阶段,政府应重点关注隐私权和伦理问题。

 

身处大数据时代的我们,人人都可能变成“透明人”,因此,隐私权的保护在政府数据开放的开启节点下变得非常重要。在大数据时代,隐私权保护的核心是谁有权决定是否公开,以及以何种方式公开涉及隐私的数据。何渊认为,我们需要一种能够平衡公共利益和个人利益之间关系的隐私权保护机制。

 

“从某种意义上说,政府数据带来的伦理问题比隐私问题危害性更大。”与一目了然的隐私问题相比,大数据时代的伦理问题则稍显费解,何渊举例说,当电商平台根据政府开放的消费大数据,用算法作了一个精确的推荐系统,当收入较低的顾客浏览此平台时,非常多的打折信息会不断跳出来骚扰,这是典型的消费歧视,“这就是伦理范畴的数据歧视问题。” 换而言之,这就是大数据时代“开放的政府数据”加上“复杂却差异化的算法”带来的歧视,这是商业领域隐匿的穷人与狗不得入内。

 

何渊建议,应充分重视并研究大数据与人工智能伦理与法律问题,在充分调查的基础上由相关行政机关或行业协会制定《大数据与人工智能伦理规范》。一旦实践成熟了,应当在其中抽取部分规则纳入未来的《政府数据公开法》中,上升为法律原则。

 

何渊还建议,在数据消亡阶段,有关部门应通过行政立法的方式规定不同类型的政府数据必须删除的最长时间,需要政府通过法律或行政法规的方式正式赋予公民“被遗忘权”。否则,在大数据时代,我们不仅成为了“透明人”,而且我们还成为了“不会忘记的人”,往事像炫目的刺青一样永远刻在我们的数字皮肤上,洗也洗不掉!


来源:上观新闻、伴公汀


- END -

请扫描下面二维码,赶紧关注我们吧!



您可能也对以下帖子感兴趣

文章有问题?点此查看未经处理的缓存