एंथ्रोपिक के सह-संस्थापक जैक क्लार्क ने सुझाव दिया है कि सरकारों को कृत्रिम बुद्धिमत्ता (एआई) सॉफ्टवेयर के लिए अनिवार्य और सत्यापन योग्य 'किल स्विच' लागू करना चाहिए। वर्तमान में कई प्रयोगशालाएं अपने स्तर पर सिस्टम को निष्क्रिय करने की आंतरिक व्यवस्था रखती हैं, लेकिन क्लार्क का मानना है कि सुरक्षा सुनिश्चित करने के लिए इसे औपचारिक नियमों के दायरे में लाना आवश्यक है ताकि तीसरे पक्ष द्वारा इसे लागू किया जा सके। यह प्रस्ताव तेजी से विकसित हो रही एआई तकनीक से जुड़े जोखिमों पर चल रही नीतिगत चर्चाओं का हिस्सा है।
एआई सुरक्षा को लेकर बहस तब तेज हुई जब विशेषज्ञों ने स्वायत्त प्रणालियों से मानवता के लिए अस्तित्व संबंधी खतरों की चेतावनी दी। अमेरिका में इस दिशा में विधायी प्रयास शुरू हो गए हैं, जहां 'किल स्विच एक्ट' के तहत सरकारी एजेंसियों को समस्याग्रस्त एआई उपकरणों को बंद करने का अधिकार देने का प्रस्ताव है। इसके विपरीत, यूके सरकार ने ऐसे आदेशों पर संदेह जताया है, जबकि पूर्व राष्ट्रपति डोनाल्ड ट्रंप ने एआई से जुड़े अस्तित्व संबंधी खतरों को खारिज करते हुए इसे एक ढकोसला करार दिया है।
