Nvidia Chat With RTX

Tue, 20 Feb 2024 00:00:00 +0000

安装部署

一路点击下一步安装即可。

安装过程需要耐心等待，我可能等了差不多两个小时，最后安装成功。

安装完成之后，在桌面会出现NVIDIA Chat with RTX快捷方式，就是一个启动脚本。如果是默认路径安装的话，需要修改path：

C:\Users\Yang\AppData\Local\NVIDIA\ChatWithRTX\RAG\trt-llm-rag-windows-main\config\preferences.json

1
2
3
4
5
6


{
 "dataset": {
 "path": "C://Users//Yang//Desktop//rtx",
 "isRelative": false
 }
}

这里有一个问题就是：如果我的数据库当中增加或者减少文件，需要重新生成embeddings,这个过程很慢。

由于我第一次指定的path下文件数量很大，导致无法全部加载成功，我减少文件数量，单独加载一个关于bike fitting的书。

同样的出租车问题，我几乎使用相同的单词来询问，给出的答案不统一。稳定性不够好。其他的测试后面再补充。