英伟达(Nvidia)已于近日发布了名为“Chat with RTX”的Demo版个性化AI聊天机器人,并在其海外官网渠道中提供了下载链接。
据了解,这是一款适用于Windows平台的聊天机器人,由TensorRT-LLM提供支持,完全在本地运行。据官网信息显示,想要安装该聊天机器人应用,用户的系统配置需使用Nvidia的30系/40系显卡(或Ampere/Ada架构的其他显卡),且显存至少为8GB。此外,用户PC的也需为16GB及以上的运行内存、Win 11系统、535.11或更高版本的显卡驱动。
据了解,Chat with RTX支持多种文件格式,包括文本、pdf、doc/docx和xml。只需将应用程序指向包含文件的文件夹,该聊天机器人就会在几秒钟内将其加载到库中。此外,用户还可以提供YouTube播放列表的URL链接,该应用程序将加载播放列表中视频的转录,使用户能够查询它们涵盖的内容。
有观点指出,从官方描述来看,用户可以通过不同的查询,与使用ChatGPT相同的方式使用Chat With RTX,但生成的结果将完全基于特定数据集,似乎更适用于生成摘要、快速搜索文档等操作。
Chat With RTX 安装系统需求
Chat With RTX 下载安装
下载地址:
Build a Custom LLM with Chat With RTX | NVIDIA