怎么样免费运行任何开源大语言模型?我说的不是你本地部署,因为并不是所有人都有几十上百GB的VRam的GPU的。
这里跟大家介绍都这个叫做glhf的免费AI工具就牛逼了,通过它,你可以非常快速的运行起任何hugging face上的开源大语言模型,我们知道所有开原模型基本都在huggingface上。
我们只需要上去找到我们要的模型,比如我这里的这个通义千问模型,拷贝模型卡页面的URL,然后粘贴到glhf上,回车,然后你就可以愉快的和这个模型聊天了。
当前这个工具是完全免费的,他们也在寻求付费方案,但是在此之前,他们不会收任何费用。所以感兴趣的,赶紧用起来吧!