#超级智能风险

为何众多人工智能研究者担忧机器可能毁灭人类

随着他不断开发新模型，他逐渐意识到自己和其他处于人工智能前沿的研究者们正在逐步失去对技术的控制。通过利用人工智能的编程能力加速下一代模型的研发，他实际上将自己排除在了这个过程之外。人工智能实验室希望将这一方法发展到人工智能能够无限自我提升的程度，这一过程被称为递归自我改进。 Jain认为，保持人类在技术发展中的参与可能是维持对人工智能控制、避免灾难性后果的关键。他告诉《WIRED》：“人工智能的进