#技术风险

为何众多AI研究者担忧机器可能毁灭人类

随着他不断开发新模型，他逐渐意识到自己和其他AI前沿研究者正在逐步失去对技术的控制。通过利用AI的编程能力加速下一代模型的研发，他实际上将自己排除在了控制链之外。AI实验室希望将这一方法发展到AI能够无限自我改进的阶段，这一过程被称为递归自我改进。 Jain认为，保持人类在技术发展中的参与对于掌控AI并避免严重后果至关重要。他告诉《WIRED》：“AI的进步速度正在加快，随着AI能力的提升，风险也