信任,不应该只是一句承诺!
之前有段时间中转掺假的问题备受关注,也有一些研究机构发了一些论文,但缺乏一些实际可落地使用的技术。所以就研究了一下中转服务怎么提供模型 API 资源保真具体的实现技术问题。
具体到实现的层面,主要是考虑了怎么对现有的系统改造量最小,能够无缝嵌入到现有的一些中转服务里。朝着这个目标进行尝试,发现最好的方案是使用 HTTPS MITM Proxy ,将中转调用上游资源的请求及响应拦截下来,统一对内容进行签名。
但这里又引入了一个新的问题,用户凭什么相信你的签名过程?
这里就得引入可信计算的技术,调研了几家海外云产商之后,发现Google Confidential Space 可以用来证明这个密钥的签署过程是可信的!整体技术就闭环了,Google 的可信计算空间证明密钥的产生过程及签名过程是可信的,用户可以调用 Google 可信计算相关的接口验证这个过程,拿到临时公钥,就可以用这个公钥去验证请求的内容(上游域名,https 证书指纹,请求体,请求响应)等没有被篡改。
备注:目前项目只适配了 openai/anthropic/aws bedrock/azure 这几家官方的接口,其他接口还有待实现。
