给LLM增加逻辑校验模型,赋予其批判性智能。
网络系统上信息不断增长,相当部分是非纯粹的人类生成,而是由各种模型生成输出。模型持续从网络取得信息,生成信息输出到网络,AI生态系统与网络信息池之间陷入信息熵增循环。语言模型输出信息的真义误差进入循环发散模式,不是收敛而是发散。
给AI增加逻辑(或形式逻辑)校验模型,识别并过滤网络增长信息中的垃圾部分,提取人类创造而添加到网络中的知识增量,只有新增创造性的知识被吸收进模型。AI可以识别和索源异常信息增量,比如网络的垃圾信息投喂、异常的广告流量爆发、为捕捉眼球而虚假夸张的误导,识别过滤此类无效或带毒信息,避免AI模型生态系统被污染。
赋予人工智能类似于人类的“批判性智能”。就人类而言,有的人认知低,人云也云,他头脑里吸收的多是道听途说的垃圾信息;有的人习惯性对多信息通道进行相互校验,通过验证的信息,才会被储存进入自己脑中的知识信息库。