用于灵活机器学习的包装和部署算法

摘要

描述了使用利用容器的评分算法来进行灵活的机器学习推断的技术。在一些实施方案中，接收到代表用户在服务提供商网络内托管机器学习(ML)模型的请求，所述请求识别端点以使用所述ML模型执行评分。端点基于容器镜像被初始化为在虚拟机上运行的容器，并且用于对数据进行评分并将所述评分的结果返回给用户装置。