王德夫:论人工智能技术的金融应用和法律风险应对

王德夫    发布时间:2018-06-08 来源:本站

      摘要:“人工智能”自诞生至今已有超过六十年的时间。但直到近年来随着大数据等信息技术的发展与成熟,方才支撑人工智能技术广泛应用于包括金融业在内的众多领域,也使其逐渐成为社会关注的热点之一。金融人工智能亦以“大数据”式的信息利用为基础,通过对数据信息的广泛获取和自由使用,形成近似于“智能”的决策,并在智能客服、自动交易、识别异常交易和智能决策等金融监管和经营活动中发挥出重要的作用,也在信息安全、个人信息保护和数据信息利益分配方面隐含着潜在的法律风险,需要引起注意。

      关键词:人工智能;金融;大数据;数据信息

      引言
      人工智能(Artificial Intelligence),是计算机科学领域中的一个分支。它以计算机软、硬件为基础,综合哲学、心理学等人文社会科学理念以及生物医学原理和技术,尝试理解人类“智能”的本质,并对“智能”进行模仿,以求能够制造出既具备“智能”、又具备处理海量数据信息的计算能力的设备或系统。一般而言,人工智能作为一项尖端且略显晦涩的技术,广泛地运行于特定信息系统的底层,与普罗大众的日常生活保持着一定的距离。然而,随着信息网络的普及,以及大数据、云计算等数据信息系统的应用日趋成熟,再加上计算机硬件性能和运营成本方面的突破,原本“深藏”于专业实验室或少数特定机构之中的“人工智能”也渐渐浮出水面,呈现于广泛社会公众面前。尤其在著名互联网公司“谷歌”研发的围棋人工智能“AlphaGo”战胜世界著名围棋棋手李世石和柯洁之后,全社会对人工智能的讨论与关切达到了新的热度。
      人工智能技术的“走红”并非偶然,背后蕴含着合理的逻辑,并带有复杂的利益变动。在现代信息化社会中,不同技术间的关联往往体现出多元化和非线性的特点,即当某些技术成果转化为可被社会公众直接感知的产品或服务时,一些“幕后”或相关技术也会随之受到意料之外的关注,甚至取而代之地成为社会关切的热点。在“注意力经济”和信息网络外部性的作用下,社会“热点”往往也意味着热烈的社会讨论、炙手可热的投融资活动和复杂的利益博弈。此时,作为基础的“技术”时常退居次要位置,而相关“概念”或围绕其展开的“营销”却会成为引发社会利益变动的“主角”,应当引起法律的关注。
      对于人工智能技术而言,也是如此。虽然引发社会公众关注的“人工智能”会在一定程度上与技术层面的概念有所偏移,但笔者相信,“炒作”或“营销”带来的法律问题只是相关问题中的次要方面,新技术所引发的法律风险仍然来源于技术本身的原理和运行方式,对此类法律问题的研究也应回归对技术原理和市场经营活动的观察,以及对其背后本质的探寻。
      一 理论与现实中的人工智能技术 
      (一)理论基础:人工智能的基本内涵
      在电子信息技术相关的众多领域中,“人工智能”一直都是最为引人关注也最为困难的方面之一。而当这一难题被攻克之时,也意味着人类社会生产、生活环境将会发生天翻地覆的变化:试想,若一个“人”[1]可以拥有计算机信息技术层面上的计算能力、信息搜集和交流能力,将是何等的“天才”和“超人”,更何况这种天才般的能力还处于加速增长的状态中——当今社会的信息网络中无时无刻不在增加新的数据信息和计算能力,而且,增加每一单位数据信息或计算能力的成本还在不断下降。难以想象,在这样的“超人”的帮助下,人类社会将会产生怎样的变化,而这些变化又会怎样地改变我们的日常生活。
      诚然,无论在电子信息领域还是相关的法学领域,具体的研究都应该是严肃而具体的,科幻小说式的推测不会有太多的正面意义。但是,合理的“前瞻性”也始终是研究价值的重要方面,而对纷繁复杂的“技术”进行归纳与抽象,也有助于法律“冷静”地为之做出规范。
      对于智能(Intelligence),基本的解释是指人的智慧和行动能力。当下,虽然对于究竟什么是“智能”,学界[2]尚无统一的认识,但这并不影响法律对“人工智能”技术以及相关应用的发展状况进行判断。时至今日,人类社会仍然不能为“智能”做出确切、完整的定义。探求“智能”的真义固然具有重要的价值,然而法学研究纠结于此却大可不必。就像人可以成长一样,“像人一样”的人工系统也可以慢慢地成长。[3]在未来的某一天,或许人类可以真正解答这一重要问题。而此时,无论是哲学意义上还是生命科学意义上的“智能”,当它对应于“人工”和市场应用时,已有相对统一的结论:对应的人工系统可以做出“像人一样”的判断就足够了。
      (二)现实路径:市场中的人工智能
      “人工智能”作为一种广义的技术方案,已经在诸多领域发挥着作用:从代替人类进行新闻写作到分析数据信息做出决策、[1]甚至于进行艺术创作[2]乃至与人类进行拟人化的交流。[3]当下,虽然电子计算机在运行速度、存储和处理数据信息的能力方面千万倍地超过了人力,但人类最基本的一些活动,仍是电子计算机领域梦寐以求的突破,[4]但发展的路径已经逐渐清晰。
      现实中,各个细分市场中冠以“人工智能”之名的产品或服务并不罕见,各种模拟人工活动的自动化系统正通过在各个领域的广泛应用改变着人们的生活:智能手机中安装的音乐软件往往具有根据用户收听记录推荐类似作品的功能;垃圾邮件过滤系统可以根据人们浏览互联网或消费习惯调整过滤广告或骚扰信息的策略;智能翻译系统可以即时转换不同语言文本和语音,甚至在一定场合中代替专业翻译人员。而在更宏观的领域,汽车工业中的各种电子辅助系统乃至自动驾驶系统也早已不是新鲜的事物。事实上,现有的智能系统往往并非真正意义上的人工智能——它们可以在某些方面替代自然人的工作,但远没有达到自然人的灵活性和智能程度。现实中,真正实现了“智能”的人工智能还没有出现,但在部分领域已经产生了值得注意的成果,并且展现出了明确的趋势:当下最为成功的人工智能应用,如计算机系统对图片中事物的识别、汽车自动驾驶、电子翻译系统、计算机棋手与自然人对弈等,其所依托的都是大数据技术,而非天才的算法或硬件进步。也即是说,大数据技术的发展和完善是实现真正意义上人工智能的可行路径。
      换言之,以大数据技术为基础的“人工智能”应用,其所依赖的是对庞大的数据信息的分析——电子计算机通过最“笨”的办法,以极为庞大的数据信息为基础,结合特定的逻辑范式,使相关系统“表现出”类似于人的行为结果,而非依赖某些“革命性”的技术进步或发现某些高级的数学公式。这一判断至关重要,它应证了信息处理系统对“数据信息”的广泛获取和灵活应用之于“人工智能”的重要性,以及当下唯一可行的实现路径。换言之,在未能真正破解并模拟“智能”之前,使一个计算机系统“像人一样”的办法,只能是一点点地“教导”它(或者让它自动地“教导”自己)靠近“智能”,即以大规模的数据信息为基础形成经验,并经由特定的逻辑规则,使其行为或者对外部世界反馈出“智能”的表现。
      二 金融领域中的人工智能应用
      金融领域向来对新思维、新技术具有高度敏感性。无论是电子计算机、互联网还是人工智能技术,都率先在这一领域获得了应用。但是,在金融领域中,新技术应用所产生的效果具有一定的特殊性:人工智能技术所带来的进步或成效往往不会直接被社会公众所感知,而仅面向于该领域中的专业机构——对监管机构或金融机构而言,可以通过人工智能技术在自身领域达成更高效的监管、更有效的风险控制、更高收益的金融产品以及更低的交易成本。一般而言,社会的普遍感知或关注,往往是法律制度革新和发展的基本动因。此时,对于金融领域的人工智能技术应用而言,这种感知差异在一定程度上造成了人工智能技术对于社会公众的“隐藏”,以及对法律规制的回避。从这个意义上看,金融人工智能的现状更带有一丝“存在即合理”的意味:不直接地触犯现行法律制度,并以此获得更广泛、灵活的发展空间。然而,这种发展模式始终无法摆脱潜在的经济和社会风险,即便当下不足以引发法律制度的迅速回应,也应当引起法学研究的注意。
      (一)人工智能的活动方式:与金融活动的关联
      人工智能等现代信息技术广泛应用于金融领域,并表现出灵活、多样化的特征。虽然纷繁复杂的技术细节与应用方式往往会对法律问题的提炼和判断带来干扰,但当“人工智能”作为技术方案联结于金融活动时,可以从其所产生效益的角度,倒推应用的方式和当中“人工智能”所扮演的角色,以实现对人工智能的金融应用进行归纳和分类。
      1.传统效益模式:基于明确规则的运行
      “明确的规则”指的是金融领域中具有明确逻辑、确定的输入和输出的数据信息处理方案。基于其设计、运行的电子信息系统则属于广泛意义上的“智能系统”,而非严格意义上的“人工智能”。也即是说,可以将其视为传统金融业务的电子化、网络化,以节约“人力”或提升效率。此时,信息化系统为相关应用主体带来的收益是可量化和可预期的:相比于传统业务方法,使用电子化、信息化的管理系统或加入了某些判断规则的决策、预警系统,可以节省出来的人力、物力成本和单位时间内增加的业务量是能够通过明确的公式被计算出来的。而且,在相关领域的投资所带来的收益也会因为相关投资的边际效应而慢慢收窄。具体而言,主要体现为以下方面。
      (1)数字化的信息存储与管理系统
      对金融活动中产生的各类数据、信息进行数字化、信息化存储,可以带来显著的效率进步。这种进步犹如电子计算器之于算盘或纸笔演算那样明显,并且广泛地发生于包括金融领域在内的社会各个方面。虽然具备类似功能的系统在人们的日常生活中显得如此简单和习以为常,但其蕴含的重要意义仍然值得强调:尤其在宽带互联网、移动互联网等技术的全面覆盖和支撑下,金融信息不再是传统、孤立地存在于金融机构中的静态资料,而会与广泛意义上的人类活动产生或明或暗的联系,甚至于与个人隐私或私生活相关联。而在现代社会中,广泛地与“个人”相关联的信息,又往往会作为经济活动的依据“回归”于金融机构的经营活动,并进入相关机构的数字化的信息存储与管理系统之中。此时,金融领域中的数字化信息存储与管理系统就不止是其提升内部管理效率的工具,而会与金融领域之外更广泛的经济效应和社会效应产生关联。
      (2)针对性更强,或者更加“人性化”的客服系统
      金融属于服务行业,从事的是关于人与人服务价值交换的业务,人是核心因素。金融机构需要投入大量人力物力资源用于客户关系的维护交流,从中发掘客户需求,以获取金融业务价值。[1]通过对现有客户信息的数字化,并为之建立灵活多样的索引,可以使金融机构更高效地与客户交流。一般而言,在这样的应用中,效益的高低往往取决于对客户信息所建立的索引水平:简单的索引规则只能带来简单的客户分类,机械而难以应对表面信息背后的真实情况;复杂的索引规则可以从更多的角度描述和识别客户,并为更具有针对性的金融服务提供决策依据。而在发展的视角下,运用真正意义上人工智能技术的客服系统则会获得更广泛的适用空间。譬如说,以之为基础的自动聊天系统,除了可以在没有人工干预的情况下对客户的部分提问进行回应之外,还能具备学习的能力。而随着客户使用时间的增长,相关信息系统可以从之前的服务中积累大量有关该客户的个人习惯或特定需求方面的数据信息,并以之为资源进行自我完善。这种自我积累、自我完善的运行机制,也更为接近“智能”。
      (3)自动交易或自动工作系统
      在世界经济全球化的背景之下,金融活动早已跨越了地域、时差的限制,交易频率也远超自然人人力所能及。自动交易或自动工作系统既摆脱了人力的自然限制,如疲劳、厌倦或注意力下降等,执行交易时也比人工操作更为迅速、准确。当下,运营中的自动交易人工智能系统已有十余种之多,但所依赖的仍然是运营它们的人所输入的交易策略或规则,而非人工智能的自主判断。换言之,在这样的应用中,“自动”的成分仍显著地多于“智能”。但与客服系统相似,“像人一样”也是这类人工智能应用的发展趋势,而在相关算法或判断规则没有本质突破时,实现“像人一样”所依赖的仍然是对更大规模、更有价值的数据信息的获取。
      2.创新效益模式:基于抽象策略的运行
      与具有明确规则的自动化系统相对应的,则是另一类人工智能运行模式:当其所面对的问题无法通过利用明确的方法、规则或公式从数据信息中直接“求解”时,选择从离散、独立或关联不明显的数据信息中进行多维度的试探,反复地比对与尝试,去芜存菁,最终一步步地靠近真实。由此而产生的效益则带有较多“意料之外”的意味:至少也会超过对数据信息直接“求解”所带来的收益,而具有高度的灵活性。换句话说,即便针对同样的“原料”,不同的应用方式也会带来不同的效益:通过明确的规则所获得的收益是可预期且相对固定的,而以灵活、抽象的策略驱动电子计算机处理数据信息,则会带来额外的成效——作为产品或服务的“决策”的准确度仍受限于策略和输入信息的质量,但应用领域范围却会大大地超出预期。而以“预测”或“判断”作为应用的结果,也更接近于真正意义上的“人工智能”。而且,在金融活动中,已经在部分领域获得了显著的成效。
      (1)对异常交易的识别示警
      对异常交易、虚假交易的识别与示警,是反洗钱执法的重要依据。我国反洗钱监测由各个商业银行、中国人民银行和司法机构等多部门联合实施,每年都有大量的可疑交易由商业银行上报至上级监测机构,但是,洗钱犯罪嫌疑人为掩饰其收入的非法性,往往也会采取多样化的手段规避反洗钱监测。在监管与非法活动的长期斗争中,反洗钱机构也面临着检测规则显性化、人工依赖度比较高、报告假真率比较高、实时干预能力不足、处理时效性不高等现实困难。[2]而人工智能技术在此领域,以挖掘离散数据信息之间的内在关联为主要方式,可以最大程度地发挥其“预测”功能,以接近于“智能”的方式突破犯罪嫌疑人的干扰和隐蔽措施,识别海量交易信息中的潜在犯罪活动。
      (2)通过人工智能制定投资策略、经营策略
      人工智能的一个重要应用分支在于处理非结构化的数据信息。而这样的功能在识别图片、视频等内容,并将其转化为结构化数据信息方面具有重要的作用。从行为效果判断,这也是人类智力之于电子计算机运算能力的优势之所在。与此同时,在金融领域中,结构化的数据信息是进一步定量分析、定性分析的前提,同时也是金融分析和研究活动的必要支撑。而以此为基础,对金融活动规律的总结、对交易机会的争取和对金融风险的规避,正是金融人工智能发展的方向和目标。而作用于技术细节和业务操作背后的,则是相关人工智能系统的“预测”功能,当下,亦只能通过对抽象策略的不断运行和海量的数据积累方能得以实现。
      (3)通过人工智能进行多元化的智能判断
      金融人工智能的运行本质在于实现智能化的“预测”,而“预测”的应用领域则广泛得多。因此,金融人工智能除了在金融监管方面、业务拓展或内部智能管理方面发挥作用外,还能在金融机构中扮演多样化的角色,形成多元化的智能判断和决策,并以更高质量金融服务的方式面向于广泛的社会公众。如将其应用于对海量的、不足以引起金融机构注意的小额或零散交易信息的统计、分析和判断中,则有助于识别商业欺诈,提前预测出交易变化趋势,提示系统性风险;将其应用于对特定市场主体多方面行为的分析,以不同关联程度、不同数据结构的信息为基础,推测其经营状况、内部管理以及外部竞争态势,并判断相关投资、贷款的安全性;甚至于可以将其应用于对关联交易、操纵市场价格、达成垄断协议等隐秘性较强的行为监控中,优化金融市场竞争环境。
      (二)金融人工智能活动的本质:“大数据”式的信息利用
      金融人工智能的进步性主要体现在由其所产生的创新效益上,并体现为显著的经济和社会效益。这也是监管机构以及金融业经营者积极接触、应用包括人工智能在内各种高新技术的内在因素。然而,若言尽于此,则会陷入一个误区:人工智能技术整体而言,作为现代科技的结晶,会对人类社会的发展产生积极影响,但是,这并不意味着它在任何领域的应用都是畅通无阻的,也不意味着因此而产生的经济利益都理所当然地归于“使用者”。而对金融人工智能本质的探究,则是发现当中潜在不合理因素和法律风险的合理路径。
      1.广泛的数据信息是金融人工智能的运行基础
      从效益的生成倒推相关行为,可以发现,包括金融领域在内的各行各业中“人工智能”实现方式,可以被归纳为两个路径:按照明确定义的方法或逻辑,处理特定的输入,得到期望的输出;缺乏明确定义的方法或逻辑,处理特定的输入,得到期望的输出。前一路径是当下普遍存在的“智能”产品或服务的基本原理,它依赖于明确的函数或数学公式,更像是某种“计算器”,而非真正意义上的“智能”。但不可否认的是,即便是最容易被人们所忽视的“计算器”,也为人类社会带来了巨大的便利和进步。然而,在待处理的问题复杂到一定程度、或需要处理众多关联较弱的问题时,往往不会得出确定的公式或通解。[1]此时,电子计算机系统的“愚笨”就会显露出来:在一般情况下,它只能快速地进行具有确定方式的计算,而缺乏逻辑思维或关联能力。换言之,如果人类无法告知电子计算机明确的“公式”,它的计算工作将陷入停滞,“智能”更无从谈起。在对人类“智能”的本质仍然缺乏深刻认识的现实下,后一路径的实现则依赖于以特定的方式大量地进行“重复”运算,即通过迭代(Iteration)、递归(Recursion)等方式,令电子计算机以简单重复的方式运行各种策略,并以此种方式逐步地“逼近”理想的结果。[2]而作为计算的结果是否是“期望的输出”,则依赖于策略的优劣和“特定的输入”的质量。在这一过程中,种种“策略”本身作为人类社会共同知识财富,大多在全世界范围内进行了充分的公开。因此,在不考虑硬件投资差异的情况下,“特定的输入”就成为影响金融人工智能运行效果的关键因素。而“特定的输入”,则有具体的指向——金融机构所能够加以利用的数据信息。而且,不同于传统意义上的“金融信息”,此处的“数据信息”有着极为广泛的内容范围:可利用的数据信息内容范围甚至会超出以“内容”进行限定的模式,而需要从行为或能力的角度进行判断——金融机构所能够获取到的所有的数据信息,无论其是否与金融活动相关,或者与“个人”的联系是否紧密,都会被囊括于其中。
      2.金融人工智能以“大数据”的方式利用数据信息
      金融人工智能系统的运行依赖于广泛的数据信息输入,而“智能”则体现于“大数据”式的信息利用方式。
      就字面意义而言,“大数据”并非某种特定的概念或专门名词,而更倾向于一种对数据的描述或评价——对数据信息量的描述。而从本质上,大数据的本质则更多地体现于信息利用行为模式的特殊性上:作为一种大规模的数据信息的集合,它依托于互联网及相关技术[3]产生,以包含尽可能多的数据种类与数据量为目标,通过对种类繁多和数量庞大的数据信息的排列或关联以实现预测与判断的功能,并以此体现出有别于传统数据分析的独特价值——它可以从纷繁的数据信息中归纳、抽象出潜在的规律或结果,且随着应用内容的变化而创造出迥异的使用价值。换言之,从“大数据”系统运行以及应用方式的角度看,以“大数据”为代表的新型数据信息应用技术,实质上是一种依托于对广泛联系的数据信息的筛选、分析和归纳,并籍此获得传统数据信息应用方式所无法带来的经济、社会价值的新的数据应用模式。此时,“大数据”存在并区别于其他对象的根本因素在于自身数据规模的庞大与多样性,而非依赖于当中所包含信息的具体内容。
      而在形而上的层面上,这种依赖于数据信息规模进行多角度“预测”的运行方式所带来的创新性效益,暗合量变引发质变的哲学原理,甚至带有些许的神秘色彩:它与集体智慧(Collective Intelligence)或集体决策有一定的相似性。就好比生物结构简单、原始的蚂蚁、蜜蜂在聚集起来后,可以作为一个集体产生惊人的组织性和社会性,并表现出超乎其生物结构限制的行为(构筑高度精确、复杂的巢穴等)。从这个意义上看,“大数据”式的信息利用方式和对应的效益产出也和“人工智能”相一致:尽管当下的人类认知还无法触及“智能”的本质,但并不影响对“智能”的模拟和对模拟系统(即“人工智能”)的应用。而相关效益产出和由此产生的利益分配以及社会关系的变动也是客观存在的。
      正是这种独特的数据信息利用方式,决定了金融人工智能活动的本质:广泛地搜集信息、灵活地利用信息,并从中发现盈利机会。而且,具体于金融领域,对应的大数据信息还有一定特殊性:原理上大数据系统并不以数据信息的“质量”或“价值”为主要追求,[4]但是,金融机构在掌握与社会公众个人身份识别、经济状况等信息方面占有天然的优势。这使得金融大数据相比于其他大数据系统在数据信息方面有着信息“质量”或“敏感性”的特殊之处。也正因如此,使得相关数据信息利用以及构筑于其上的金融人工智能应用面临多方面的法律风险。
      三 金融人工智能蕴含的法律风险
      金融人工智能的广泛应用,会产生令人瞩目的经济效益,具有显著的进步性。而且,从法律规制的角度看,相关技术的发展与应用受到的法律约束较少、自由度较高,会进一步刺激相关应用和市场的活跃与繁荣。然而,这样的“欣欣向荣”背后,却蕴含着潜在的风险:作为人工智能的技术基础,“大数据”的本质在于对广泛数据信息的自由获取和创新性使用,但是,对于数据信息的搜集、利用和利益分配等基本问题,尚存法律层面上的合理性疑问,并因此而蕴含风险。
      当下,相关的法律风险并没有大规模地转化为现实问题,主要有两方面因素:其一,面向“大数据”等新型对象的法律制度构建不够完善,社会关系和利益分配的变动被隐藏于技术细节和信息产品或服务后台的“黑箱”中,尚未引起足够重视;其二,传统法律制度的惯性,也掩盖了大数据系统运行中的利益分配问题——掌握大数据以及相关人工智能系统的“人”天然地获取了由此产生的利益,并被默认为是合法、合理的。而这样的现实并非理智的应然,潜在的风险应当引起法律的注意。
      (一)传统关切的新形态:人工智能语境下的信息安全
      金融人工智能语境下的信息安全带有高度的复杂性和特殊性。金融人工智能强调信息安全,也确实地面临着多方面的安全风险。数据的泄露与丢失会给社会带来负面影响,并视不同的数据内容而有所不同。如以用户消费分析为主的数据丢失,影响的可能只是产品生产、销售者,邮件云的信息泄露则会给用户带来不小的麻烦,但涉及金融信息、个人身份识别信息等的信息安全事故,则会带来市场甚至社会的动荡。而且在互联网环境下,无论是金融业经营者自身的疏忽大意、有违道德的交易、黑客攻击或是间谍行为,都会给金融人工智能的安全带来威胁。
      在内容之外,就数据信息所面临的外部威胁来看,金融人工智能的信息安全要求至少高于商业秘密:虽然商业秘密本身的存在就依赖于相关信息不被泄露,但能够接触到商业秘密的主体毕竟有限,这使得相关权利人能够采取类似保护有形财产的方式对其加以保护。而在开放的网络环境下,人工智能所搜集、处理数据信息的内容、与外界的接口或是传输、储存渠道,都有更高的公开性,因此其所面临的安全威胁也要高于传统商业秘密。而且,还不能通过网络隔离的简单方式应对这一威胁。这是因为,利用网络空间的开放性来实现人工智能系统背后大数据信息的运行与扩张,这既是其赖以存续和发展的客观技术要求,也是社会对其提出的必然要求:没有数据信息的高效流动,就无法形成大数据,也就没有真正意义上的人工智能;而信息高效流动的利益不应由人工智能拥有者所独享,它们在获益的同时也应为公共信息资源的丰富和充分交换尽一份力。因此,也可以说,数据信息的充分、自由流通与交换既是信息产业乃至全社会不可逆转的发展趋势,也是应用人工智能技术的相关经营者所应承担的合理义务。然而,经营者们为了自身利益[1]往往会以信息安全与保护商业秘密为由避免履行公开或共享的义务,或是以“平台化”为由,对其他信息使用者做出种种限制,实质上则是对自己所拥有大数据的非法垄断,将涉嫌构成对人工智能乃至大数据信息的滥用。
      因此,法律在对包括金融人工智能在内的新型数据信息系统进行保护时,也应冷静地看待相关经营者所主张的“信息安全”。至少,也应从对相关数据信息内容的识别与判断出发,有区别地对待政府等公共机构数据、企业运行中产生的数据以及从个人用户处搜集来的数据等不同类型的数据信息,避免相关经营者以“信息安全”为理由过度地独占数据信息或逃避相应的监管,以求在信息安全、经营者利益和社会整体利益间求得平衡。
      (二)长期未决的困惑:大数据信息利用与个人信息保护的矛盾
      在传统的信息技术应用中,“个人信息”受到相关主体的尊重或法律明确保护并不成为一个具有太多理论或现实争议的问题:事实上,绝大多数的数字化产品或服务都会表示出对此类信息获取、使用的谨慎,以及对数据信息主体“控制权”的尊重。或者说,在人工智能、大数据信息利用的语境之外,与个人信息或个人隐私相关的现实纠纷中并不存在理念上的冲突:没有人会认为侵犯他人个人信息或隐私行为是合法或者在理论上毫无瑕疵。而风险则产生于现实行为中——人工智能系统对包含有“个人信息”的广泛数据信息进行利用的可能性和相关行为被数据信息源主体感知或控制的可能性完全不成比例。
      此时,对传统意义上的“个人信息”而言,它们在人工智能语境下的定位和作用产生了改变:一方面,人工智能技术以及相关应用所表现出来的“预测”的特性,使得一般意义上的“侵犯个人信息”行为不再具有充分的现实意义:理论上而言,人工智能通过对数据信息的排列、整合或分析,已经可以较为准确地分析出他人未公开或其他保密信息内容,而不直接地违反法律规定,甚至不为相关主体所知悉;另一方面,与个人相关的信息经由人工智能技术应用广泛地参与到市场经济活动中,在展现出越来越强的经济性色彩的同时,也为现有的个人信息保护制度提出了难题——与“个人”有关的信息范围不断扩大,而在人工智能这种近乎“预测一切”背景下,真正可以获得法律保护的“个人信息”却越来越少。
      与此同时,人工智能技术以及相关应用“预测一切”的天然属性,使其对于广义上的个人信息的获取与利用也具有一定的合理性:这种对数据信息广泛利用以及籍此创造效益的运行方式,是其进步意义的体现,而且,“大数据”式的信息利用也较好地实现了对现有的“侵犯个人信息”行为的回避。但是,对“个人信息”的尊重与保护,也是技术发展造福于人类本身的必然逻辑。事实上,技术上的进步具有较强的客观性,在与现有法律制度产生关联时,往往体现为一种“硬”冲突的态势:要么严守现有的法律制度,使得相关技术的发展受到极大地限制;要么技术进步所带来的新的社会现实使得相关法律制度失去实际意义。尤其是在相关技术仍处于发展阶段时,其对社会现实的改变尚处于不确定的状态,法律制度的跟踪与完善也面临着更大的挑战。
      (三)“光环”背后的隐忧:数据信息利益的不合理分配
      人工智能技术应用于金融活动所带来的积极影响主要可以归纳为两方面:对经营效率的提升和对监管效率的提升。“效率”原本就是电子信息系统之于人力的天然优势,再加上“智能”方面的提升,使“人工智能”技术隐约带上了“光环”:在包括金融业在内的社会各个领域中,只要有人工智能的应用,就代表了进步和创新,就顺应了时代潮流。而在这背后,相关利益的分配也显得理所当然——创新性的效益要归属创新者所有,法律自然也要保护、鼓励这种逻辑。
      不可否认,这样的利益分配模式具有相当的合理性。相关经营者所运行的人工智能系统依赖于大数据信息,但大数据信息并不是天然存在之物,其搜集与应用依赖于大量的资源投入。也即是说,大数据系统相关的经营者对相关数据信息的搜集、存储和处理投入了大量的资本和人力资源,理应享有权利。社会其他主体想要获取或使用大数据信息或从中获益,理应得到相关经营者的同意并支付对价,而经营者也有权选择交易的条件和对象。而只有在少量较为极端的情况下,经营者选择交易条件或对象的权利会受到竞争法律制度的规制。这是现行法律制度运行所蕴含的基本原理,也是大数据、人工智能相关经营者所乐见的。
      然而,这一看似合理的逻辑却有意无意地忽视了一个重要的前提,即人工智能系统所处理数据信息的最终源头是社会中广泛且难以尽数的“人”,这些作为数据信息来源的主体所应当享有的利益被人工智能相关利益链条中的受益者们或有意或无意地忽视掉了。而从利益分配角度看,这些被忽视信息来源主体的利益很有可能就是人工智能运营者试图获得的不合理利益的主要来源。
      人工智能所依赖的大数据信息源于云计算网络的运行,而云计算网络的信息来源十分复杂,可能源于相关软件或服务的使用、可能源于个人或其他组织所上传的信息,也可能来源于广泛分布于现代社会之中的各类自动化信息采集系统。在这样无所不在、无时无刻不在自动化运行的网络中,每个社会个体都是数据信息的来源,都在为大数据信息的成形和经济价值的创造或主动或被动地作出贡献。但是,由于网络覆盖范围十分广阔、涉及信息来源十分庞杂,想要精细地确认每一个个体作为数据源的“贡献度”是不现实的。因此,在现有的利益分配体系下,广大的信息来源主体的利益被简化成了“社会进步”或“经济繁荣”。
      对此,笔者认为,这是一种人为造成的巨大的不公:作为信息来源的社会个体,其所应当享有的利益绝不应被笼统的“社会进步”所取代,而应有更具体的反馈。这是因为,社会的进步或经济的繁荣本身就源于广大社会个体的劳动与贡献,社会进步反映于社会个体生活水平的提升是现代社会发展的内在要求和必然路径,与人工智能相关经营者的投资以及智力劳动并不是严格的对应关系,更不是他们所支付的“对价”或者“恩赐”。而且,作为信息来源的个体数量众多、利益或贡献难以计算,逐一地为每一个作为信息来源的人分配经济利益不具有经济上的合理性这样的现实并不成为否定这些广泛的主体享有合理权利的理由。而事实上,广泛的社会个体联结为一个整体,可以成为人工智能相关利益的分配对象,利益分配的形式也不必拘泥于经济补偿。当下,相关市场经营者主导了相关经济利益的分配权和话语权,并且有意或无意地夸大对广泛社会公众进行利益分配的难度,实质上体现的是既得利益者对广泛的数据信息来源主体利益的不合理占有。或者说,掌握有大数据信息优势的市场经营者在享受“法律滞后”所带来的利益,并且希望在现有的法律制度体系下长久地享受这种利益。
      四 法律制度的应对与完善
      时至今日,“人工智能”仍然是一个发展中的概念,无论是“人工”还是“智能”,都是如此。但是,这并不妨碍“人工智能”技术的发展与应用,也不成为相关法律制度发展的根本障碍。这是因为,无论相关技术如何发展、应用如何多样,利益的产生和变动始终离不开与“人”的关联。对新对象、新行为合理性的法律判断,也须立足于从各种“人”的角度进行分析。人工智能技术的发展方兴未艾,在各个领域中展现出了显著的优势,具有广泛的应用前景,相关法律制度的回应虽显不足,却也为之保留了充足的发展空间。但这样的状态终究难以持久,随着相关技术影响范围的逐步深远,背后的不合理因素也会逐渐转化为现实的危险。此时,则需要法律制度为之做出适度的回应,以抑制技术进步背后的消极因素。具体而言,应注意以下方面。
      (一)准确判断法制建设与技术问题之间的关系
      法律对新技术、新应用和由此而产生额度新的社会关系的回应,始终是法治发展中的难点之一:若法律制度事无巨细地回应技术现象,会陷入疲于应付的被动境地,也会不必要地阻碍技术发展与应用;若忽视对特定技术现象的规制,则有可能会产生意想不到的负面影响,并带来高昂的纠错成本。对于这样的难题,法律制度的选择应建立在对“技术”和“社会关系”的清楚判断的基础之上。
      当下,人工智能的“智能”水平还处于发展完善的阶段,其所引发的金融风险也往往与其“不够智能”有关:如不同人工智能系统由于运行策略的单调或重复,导致它们做出趋同的交易策略并形成市场上出现大量的一致或近似交易,造成混乱;或者仅仅是因为人工智能系统中的软、硬件错误导致金融市场的不合理波动。但是,严格来讲,如何防范这些或传统、或新型的金融风险,属于技术发展逻辑与法律发展逻辑的博弈,以及对当中“人”的因素多寡的判断。此时,“人工智能”所蕴含的金融风险与金融活动中其他现代化技术可能带来的金融风险相比,并无太多特殊之处,而多体现为传统风险的新形态。由此产生的问题,事实上可以交由“技术逻辑”自己解决——技术问题最好由技术进步来应对。而对于“人工智能”背后的数据信息搜集、利用以及利益分配问题,则应交由“法律逻辑”来解决——对数据信息相关主体、行为进行法律判断,并为之设计合理的权利义务。
      (二)对“人工智能”的金融应用保持清醒的认识
      金融人工智能以电子信息技术为基础,带有天然的“效率”优势,也通过“大数据”式的信息利用获得“像人一样”的“智能”,并逐步成为各类金融经营、监管活动的决策者。在这当中,对“智能”的认识和判断更多地带有主观色彩,而对“数据信息”的搜集和应用则带有更强的客观性。也即是说,应明确,法律制度关切与回应的重点在于“数据信息”而非“智能”。也即是说,法律对“人工智能”金融应用的态度,实质上就是对金融行业能否更广泛、更自由地搜集、利用数据信息的态度。而法律对此问题作出判断时,往往面临着两难的选择:是对信息自由流动和利用放宽限制,还是在传统财产权、人格权体系下强化限制。
      具体而言,金融人工智能技术的发展与应用离不开对包括金融信息在内的多样化数据信息的广泛搜集与自由使用,所体现的是对数据信息高效流动和自由使用的追求,这也是技术进步的客观要求。现代社会中,各种与“人”有关的信息,则是最具有经济价值的“原材料”。但并不是所有的数据信息都适宜被自由获取和利用:具有较高价值的知识产权信息就意味着对信息自由取用的限制。而在经济信息之外,还有与“个人信息”、“个人隐私”等传统概念相对应的内容,则会与人身安全、人格利益等更重要的权利相关联,所体现的也是对数据信息流动与利用的限制,具有伦理、道德方面的充足理由,也是人类社会现代法律制度的基础。此时,法律对这两种冲突观念的态度,将决定相关产业的发展与未来:若强调对信息流动、使用的限制,则意味着对人工智能应用的抑制,反之,则会刺激其进一步发展壮大。对此,彼此间的协调和平衡,当为构建相关法律制度时所重点关注。
      (三)为金融人工智能的发展保留合理的空间
      在缺乏法律保护和必要约束的情形下,金融人工智能的应用与发展将更多地带有“野蛮发展”的色彩,虽会带来短暂的“繁荣”,但长远来看终将因此而受到损害。但在相关技术仍处于发展阶段,引发的社会关系仍处于变动之中时过早、过细地对其加以法律约束,则会有碍社会发展与进步。两类极端固不可取,但对于究竟何为“合理”的发展空间,仍然是一个复杂的问题。
      对此,笔者认为,应以满足人工智能技术在发展应用中对“数据信息”的需求为优先考虑,并调整现有的个人信息保护或隐私权保护制度。事实上,在现有法制框架内,在人工智能的“预测”下,相关经营者已经可以通过没有法律风险的手段获得足够多的“个人信息”甚至“隐私信息”并用于自身经营,而不被相关主体所察觉。也即是说,现有个人信息保护制度已经在一定程度上“失灵”了。在这样的情况下,在现有制度框架内加重法律责任或新增法律义务,都更多地体现为形式上或价值宣示上的意义,既于“保护”无益,也只会为人工智能领域的发展徒增干扰。对此,还须重新审视新形势下的“个人信息”的内涵,为“保护”与“利用”划出更清晰的界限。
      (四)对金融领域数据信息的私有提高警惕
      金融业本身会与广泛的社会领域产生关联,而“数据信息”又在现代社会经济活动中发挥着至关重要的作用。金融人工智能作为“金融”与“数据信息”二者的结合,其广泛应用与高度发达也可能带来金融领域数据信息集中和私有的问题,应当引起法律制度建设的重视。在金融人工智能的应用过程中,其背后大数据系统的形成与应用,依赖于特定主体的资金、设施等硬件投资以及管理、运营以及人力等软件投入,天然地为大数据等知识产品的归属指明了对象。与自然竞争产生垄断的逻辑路径相类似,过多地强调相关数据信息的私属性也会产生数据信息的垄断风险。与此同时,金融数据信息的私有和可能引发的垄断状态具有较强的隐蔽性和迷惑性,也为相关执法活动带来了新的挑战。
       因此,相关法律如何对掌握有金融“大数据”的市场经营者施加合理的限制,或以通过某种利益交换的方式抑制可能的垄断风险以及不利影响,尚需要深入、具体的法学研究加以指引。
       五 结语
      人工智能技术虽然带有些许神秘色彩、是现代高新技术的代表之一,但从相关概念的提出和早期的技术探索至今,已有超过半个世纪之久。而时至今日,真正意义上的“智能”和对“智能”的人工模拟,仍然是人类科技尚无法触及的高峰。但是,制造并运行一个既能够发挥出电子计算机等现代信息技术的效率优势,又能够在某些方面表现出一定程度“智能”的,“像人一样”的信息系统,已经成为了现实,并且在包括金融领域在内的诸多社会部门中发挥着越来越重要的作用。现实中,实现这一技术突破的路径即为“大数据”,或者说是基于大数据的经验累积,再辅以计算机硬件技术及软件算法的进步,会使计算机获得创新的或自主判断价值的能力。而且,可以判断,在可预期的将来,人工智能技术对人类社会带来的影响或冲击将是全方面和革命性的,由此所引发的法律或伦理道德问题也是复杂且至关重要的。而回归现实,当下,人工智能技术的应用中,最主要的法律风险即来源于信息安全、信息利用与信息限制的矛盾,以及对数据信息利益的合理分配。尤其是在人工智能应用过程中所产生的数据信息利益分配方面,按照现有法律制度框架,往往简单化地将利益分配于相关经营者,而会忽视广泛的作为数据信息来源主体的合理利益,并造成潜在的不公平。而对这一问题的重视和解决,也应当在将来相关法律制度的发展完善中有所体现。

      来源:《私法》(易继明主编)第15辑 · 第1卷 (总第29卷)。 

上一篇:梅术文:消费者运动与数字著作权法的完善

下一篇:已经是最后一篇了

本站所提供资源仅供个人学习、研究使用,版权归原作者所有,如若下载、复制,请在24小时内删除!