人工智能技术正在迅猛发展，但其潜在风险不容忽视。被誉为"人工智能之父"的Yoshua Bengio近日在接受采访时表达了对AI发展的担忧。
Bengio是加拿大计算机科学家，60岁的他毕生致力于神经网络和深度学习算法研究，为当今AI模型如ChatGPT和Claude奠定了基础。作为2018年图灵奖得主，2022年全球被引用次数最多的计算机科学家，Bengio在AI领域的影响力不言而喻。
图源备注：图片由AI生成，图片授权服务商Midjourney
然而，这位AI先驱如今却发出这样的警告。他指出:"智能意味着力量，谁控制了这种力量 - 无论是人类水平还是更高 - 谁就会变得非常强大。"Bengio认为，在创造可能危险地集中权力的技术之前，我们需要格外谨慎。
Bengio特别提到了AI可能带来的潜在威胁。他警告说，如果AI落入"坏人"之手，可能会被恐怖分子或意图破坏民主的国家行为体利用。更令人担忧的是，科学家们指出，按照目前的训练方式，我们可能无法避免这些系统变得自主并产生自我保护目标，从而失去对它们的控制。
尽管投资者对AI领域热情高涨，如英伟达（NVDA）股价年初至今上涨172%，但Bengio的警告不容忽视。他呼吁在开发强大的AI系统时，要充分考虑其潜在风险，确保技术发展不会对人类社会造成威胁。
在AI快速发展的今天，本吉奥的观点为我们敲响了警钟。如何在推动技术进步的同时，有效控制其风险，将是整个AI行业面临的重大挑战。