人工智能失控了怎么办？OpenAI和Google的新课题

摘要

在OpenAI位于旧金山的办公室里，研究人员Dario Amodei正在通过赛船冠军赛（CoastRunners）来训练人工智能。不过，这个工智能好像有点失控了c，赛船冠军赛的游戏规则很简单，如果想赢，选手必须获得最多的分数，然后再跨过终点线。然而，Amodei的人工智能在熟悉了规则之后，玩着玩着有点过火了，它在不断地追求高分，非但毫无跨过终点线的意思，反倒为了要拿下更高的分数而多转了几个圈。