从历史上看,几乎每一种新技术的广泛应用都会在带来新机遇的同时引发很多新问题,AI智能体也不例外。从目前的发展看,AI智能体的发展可能带来的新问题可能包括如下方面:
第一是它可能带来涉及个人数据、隐私,以及知识产权的法律纠纷的大幅增长。要产生一个优秀的AI智能体,除了支持它的基础大模型必须能力强大外,还必须投喂给它大量的个性化、专业化数据,而这就会衍生出非常多的问题。
首先是涉及人格权的纠纷。如前所述,在AI智能体中,有一类是主打模仿某个真人形象的。例如,在Character.ai平台上的很多AI智能体就会模仿名人的口吻和语言习惯与用户对话。在现实中,有不少人会将与这些AI智能体对话的结果进行传播,这就可能演化为一场涉及名誉权的官司。从这个意义上讲,在使用这类AI智能体的过程中,如何区分真人和以他为原型制作的智能体的权利界限,将会是一个非常现实的问题。
其次是和个人数据、隐私相关的问题。在制作以真人为背景的AI智能体的过程中,必然要向制作方提供很多的数据,还可能将这些数据存储在对方的服务器上。在这个过程中,就可能发生个人数据和隐私的泄露和滥用。