OpenAI前安全负责人David Robinson警告：AI公司过去靠“快速上线—发现问题—再修复”一路狂奔，但当AI越来越强，一次失控的代价可能大到没有第二次机会。因此，未来AI公司应该像核电站一样运营：多层防护、冗余机制、严格测试，任何一个人的错误都不能击穿整个系统。

有意思的是，黄仁勋却认为，2030年前AI毁灭人类的概率是0%。