云南大理网

　　家人与“机器人小三”争风吃醋怎么办？

　　未雨绸缪为人工智能把关

　　王蔚

　　未来世界，如果老公成天和机器人劈情操，怎么办？未来世界，智能保姆也“学坏”了，随意打骂老人孩子，怎么办？未来世界，无人驾驶交通工具肇事了，责任怎么认定？然而，这并非“未来世界”。昨天，来自计算机、通信、法律等各路专家参加了“上海大学人工智能理论、技术、平台与应用交流合作论坛”。会场内外，专家们对正在或即将遭遇的智能生活双刃剑，透露出幸福的烦恼。

　　“它”能有法律权利吗？

　　自主无人驾驶正在不断走进人们的日常生活，这又会引发新的法律问题。有专家设想了一个场景：一辆载满乘客的无人驾驶汽车正在高速行驶，突遇一位孕妇横穿马路，如果紧急刹车，可能伤及车内乘客；如果不急刹车就会撞到孕妇。如果有人驾驶，这就要取决于司机的经验，或直觉作出判断。但无人驾驶就会陷入伦理困境，由于其行为是通过预先设定的，它只能从数据库中选取相似的案例进行类推。如果遇到完全陌生的情形，就只能随机选择一种近似的处理方式了。那么，假如无人驾驶车肇事，造成了生命和财产损失责任由谁来负？上海大学法学博士刘颖说，人工智能将打破传统法律主体资格的界定规则，以及智能机器人的法律地位与责任。在现有法律中，是将智能机器人的责任认定为一种产品责任。然而，未来智能机器人一旦像人一样被赋予法律人格，它可以作为法律关系主体享有权利，同时独立承担责任，其承担责任的方式应该参照人类承担责任的方式，包括民事责任、行政责任甚至独立承担刑事责任。不过，反对意见也随之而出——对“它”施以法律追责处罚，可行吗？有意义吗？

　　“它”有情感是利是弊？

　　由人工智能引发的道德责任，或许会再次让人大跌眼镜。现在的人形智能机器人越来越像“人”，越来越“善解人意”，也越来越“多愁善感”。有专家预测，到2050年，人形智能机器人将变得和真人一样，拥有完美的身材、光洁的皮肤、温柔的性情、坚贞的品格，这到底是利是弊？它可以为人做家务、陪人聊天、与人调情，甚至可能与人上床。当它们以保姆、情人、伴侣或孩子的身份进入家庭后，久而久之，人与智能机器人之间会不会产生感情和利益纠葛？尤其是夫妻间的原配与“智能小三”之间因争风吃醋引起的矛盾与权益维护，必然牵涉出一堆新的道德伦理问题。还有，如果未来的智能机器人一旦拥有了独立的思维，也拥有了“人格尊严”，那么，当它被辱骂、殴打甚至被强暴时，有没有正当防卫权利？是否可以依法维权？

　　“它”的行为谁来约束？

　　由此，管控和约束人工智能的行为，也成为专家热议的话题。上海大学无人艇工程研究院院长彭艳教授说，目前的人工智能算法，部分是围绕着奖惩机制建立的训练关系。当机器的目的变成获取奖励，其思维就可能会变成这样：只有继续运行才能获得奖励。因此，它就有可能为了自身的存在，阻止人类关闭自己。当然，这样的场景目前离人类还很遥远，而一旦发生，后果将不堪设想。所以，人类需要防备人工智能的攻击，“人类智能”必须学会管控人工智能。

　　也有专家提出，对于人工智能行为的管控，应当未雨绸缪设立几条框架性的原则。比如，必须对人工智能的研究目标加以约束，以对人类有益作为主要研究目标；对设计者和开发者有必要设定一定的伦理责任规则，主要是有益性、不作恶、透明性设计，以及隐私的保护等。

　　首席记者 王蔚