现阶段在本地搭建大模型的成本较高,而且效果往往相比满血模型有较大差距,所以很多场景下我们还是得选择大厂提供的大模型服务。
而使用大模型服务则涉及到一个信息泄露的问题,比如个人隐私,或者公司的商业秘密等。所以在用的时候往往有顾虑,甚至不少公司禁止员工使用自己公司以外的大模型服务。
如果能将同态加密技术应用于大语言模型,喂给大模型加密后的输入,返回加密后的输出,用自己的密钥解密后就能得到有意义的明文输出。只要密钥没有泄露,对于大模型服务提供方来说,就是 garbage in garbage out 。这样就解决了信息泄露问题。
我搜索了一下,找到了几篇将同态加密应用到大语言模型的相关论文。看上去是可行的,但目前似乎处于实验阶段,且成本较高。市面上的大模型服务,也没有声称支持同态加密的。
所以 V 站相关从业者,可以聊聊目前这方面的进展和挑战大概是什么样的,以及距离普及还有多远。
而使用大模型服务则涉及到一个信息泄露的问题,比如个人隐私,或者公司的商业秘密等。所以在用的时候往往有顾虑,甚至不少公司禁止员工使用自己公司以外的大模型服务。
如果能将同态加密技术应用于大语言模型,喂给大模型加密后的输入,返回加密后的输出,用自己的密钥解密后就能得到有意义的明文输出。只要密钥没有泄露,对于大模型服务提供方来说,就是 garbage in garbage out 。这样就解决了信息泄露问题。
我搜索了一下,找到了几篇将同态加密应用到大语言模型的相关论文。看上去是可行的,但目前似乎处于实验阶段,且成本较高。市面上的大模型服务,也没有声称支持同态加密的。
所以 V 站相关从业者,可以聊聊目前这方面的进展和挑战大概是什么样的,以及距离普及还有多远。