AI可能毀滅全人類？Anthropic創辦人呼籲：應強制設置「終止開關」

Anthropic共同創辦人克拉克（Jack Clark）近日接受《BBC》訪問時透露，為了防止人工智慧（AI）過度發展對人類產生危害，企業可能需要配備可由第三方驗證的「終止開關（kill switch）」，且這項要求應提升到社會政策層次，立法者可能需要思考強制業者在AI開發上具備這項功能。

近日人工智慧（AI）快速發展引發風險引發疑慮，甚至有人認為，如果不加以控制，AI技術有可能毀滅全人類。對此，傑克克拉克近日接受《BBC》表示，如果人工智慧軟體變得過於危險，社會最終可能會希望透過制定規則來徹底關閉它。

克拉克表示，包括Anthropic公司在內，大多數實驗室都有不同的方法來終止實驗，但他認為，除了公司自主設置終止方式之外，立法者可能需要強制要求實驗室擁有這樣的方法。

克拉克認為，社會大眾會想了解是否應該強制要求公司必須配備緊急停止開關，甚至這種緊急停止開關能否由第三方進行驗證。他直言，有關「終止開關」及驗證的具體細節，應該成為圍繞人工智慧進行的「更廣泛的政策對話」的一部分，最終可能會制定相關規則，來應對AI發展所帶來的挑戰。