和ChatGPT大战多个回合，我知道了这些真相

news2025/1/14 2:23:39

最近，ChatGPT在国内外社交平台上可谓是火出圈了。作为一款人工智能语言模型，它可以和人类以对话的方式进行互动，比你早已熟知的Siri，小度还有小爱同学要更加智能与专业。因为它除了回答问题外还能进行创作，比如写小作文，写诗，写代码，甚至还能Debug（修复bug）。连一向高调的马斯克在使用ChatGPT后的感受则是，“scary good”（好到吓人），甚至断言，“我们离强大到危险的AI不远了。”

图源Twitter@Elon Musk

▲如此智能的模型是如何产生的？答案揭晓前，我们先了解一下GPT。

一、什么是GPT

图|源于OpenAI官网

GPT：Generative Pre-trained Transformer是一种基于互联网可用数据训练的文本生成深度学习模型。它用于问答、文本摘要生成、机器翻译、分类、代码生成和对话AI。

2018年，GPT-1诞生，这一年也是 NLP的预训练模型元年。

它可以：

·自然语言推理：判断两个句子的关系；

·问答与常识推理：输入文章及若干答案，输出答案的准确率；

·语义相似度识别：判断两个句子语义是否相关；

·分类：判断输入文本是指定的哪个类别。

2020年，OpenAI推出自然语言模型GPT-3，此时系统的聊天能力已经无限接近于人类，甚至有超越之势。而相对于GPT-3强大的学习训练能力，ChatGPT的智能则体现在以下两个方面。

1.加入了道德原则

按照预先设计的道德准则，ChatGPT会对不合理或无法回答的提问和请求“说不”。被赋予敢于质疑、主动承认错误，这样的“性格”，能不断提升AI本身对用户意图的理解以及结果的准确性。当然，尽管OpenAI非常小心，这种准则也可能被聪明的提问方式绕开。

ChatGPT 指出问题错误图源：澎湃新闻

2.拥有从“人类反馈中强化学习”的能力（即Reinforcement Learning from Human Feedback（RLHF））

ChatGPT 使用“预训练-微调”的工作范式训练了一个初始模型：人类AI训练员提供对话，他们在对话中扮演双方——用户和AI助手，AI训练员可以访问模型编写的对话回复，并帮助AI调整回复内容。

ChatGPT训练方法图源：OpenAI

这样设置后，ChatGPT能够识别恶意信息，识别后拒绝给出有效回答，或记住用户之前所向它提问的内容，以各种方式组合语境想法，变成一个灵感生成器。

真有这么厉害？小编现场问了它几个关于智能运维AIOps问题，让我们一起看看chatGPT怎么应对的。

二、警惕ChatGPT的小聪明

①：智能运维是什么？

智能运维是一种基于人工智能技术的运维管理模式，它可以自动检测、诊断和解决IT系统中的故障，从而提高IT系统的可用性和稳定性。智能运维的核心技术包括机器学习、自然语言处理、深度学习等，它可以帮助企业更快更准确地发现和解决IT系统中的故障，从而提高IT系统的可用性和稳定性。

②：数据治理重要吗？

数据治理非常重要，因为它可以帮助企业更好地管理和利用数据，从而提高企业的效率和竞争力。数据治理可以帮助企业更好地管理数据，从而提高企业的效率和竞争力。它可以帮助企业更好地利用数据，从而提高企业的效率和竞争力。此外，数据治理还可以帮助企业更好地保护数据，从而防止数据泄露和滥用。

③：智能运维和数据治理什么关系？

智能运维和数据治理之间存在着密切的联系。智能运维是一种基于数据的运维管理模式，它可以帮助企业更好地管理和控制IT环境，从而提高运维效率。而数据治理则是一种组织内部数据管理的模式，它可以帮助企业更好地管理和控制企业内部的数据，从而提高企业的数据管理水平。因此，智能运维和数据治理之间存在着密切的联系，它们可以相互促进，从而提高企业的运维效率和数据管理水平。

④：如何在智能运维中做好监控？

（1）建立完善的监控体系：要建立完善的监控体系，以便及时发现系统中的异常情况，并及时采取措施进行处理。

（2）实施完善的监控报警：要实施完善的监控报警，以便及时发现系统中的异常情况，并及时采取措施进行处理。

（3）实施完善的故障诊断：要实施完善的故障诊断，以便及时发现系统中的异常情况，并及时采取措施进行处理。

（4）实施完善的性能监控：要实施完善的性能监控，以便及时发现系统中的异常情况，并及时采取措施进行处理。

（5）实施完善的安全监控：要实施完善的安全监控，以便及时发现系统中的异常情况，并及时采取措施进行处理。

（6）实施完善的可用性监控：要实施完善的可用性监控，以便及时发现系统中的异常情况，并及时采取措施进行处理。

（7）实施完善的变更管理：要实施完善的变更管理，以便及时发现系统中的异常情况，并及时采取措施进行处理。

在前3个回答中，答案大差不差，基本符合事实。而第4个回答则表现了chatGPT在资料调用不足的情况下也会耍一些“小聪明”——用大量叠加的文字显示答案的专业性，以此让自己在提问者面前“蒙混过关”。从这里我们就可以管中窥豹发现它的一些端倪：如果非专业人士无法分辨ChatGPT答案的准确性，极有可能会被严重误导。