Google Cloud让BigQuery用SQL托管推理开源模型(预览)
Google Cloud在BigQuery推出“托管且SQL原生”的开源模型推理能力(Preview),可直接使用Hugging Face与Vertex AI Model Garden中的模型。用户通过CREATE MODEL部署并自动管理资源,闲置时可自动回收以控成本;同时可在SQL里配置机型与副本数,并用AI.GENERATE_TEXT/AI.GENERATE_EMBEDDING做批量推理,把模型生命周期管理收敛到BigQuery工作流内。
阅读原文