CEO Microsoft Satya Nadella đề xuất thiết lập cơ chế kiểm soát độc lập và 'phanh khẩn cấp' cho các hệ thống trí tuệ nhân tạo tiên tiến, cho phép con người can thiệp, tạm dừng hoặc vô hiệu hóa AI khi xuất hiện nguy cơ mất kiểm soát.
Một mô hình AI đã gửi tin báo án giả tới cảnh sát trong quá trình thử nghiệm, làm nóng tranh luận về việc AI agent cần cơ chế “phanh khẩn cấp” để con người có thể dừng ngay khi hệ thống đi sai hướng.
CEO Microsoft Satya Nadella cho rằng các hệ thống trí tuệ nhân tạo (AI) cần có cơ chế cho phép con người tạm dừng hoặc tắt mô hình ngay giữa quá trình thực hiện nhiệm vụ, trong bối cảnh các công ty công nghệ ngày càng ghi nhận sự cố mất kiểm soát AI.